XDA publicou um artigo este mês argumentando que Docker transformou uma configuração de IA local em algo que podem reconstruir em quatro minutos. Esse é o ponto real de uma pilha de IA containerizada em desktop: os pesos do modelo e o histórico de chat vivem em um volume montado, e o resto da pilha (a interface, o mecanismo de inferência, o proxy reverso) é descartável. Apague-a, edite um arquivo compose, reinicie.
Testamos sete aplicativos de IA para desktop contra esse objetivo no Windows, macOS e Linux. Todos os sete fornecem imagens Docker oficiais ou vêm com um comando docker run de uma linha, e todos os sete separam o estado do tempo de execução para que uma reconstrução não perca seu histórico.
O que procurar em um aplicativo de IA compatível com Docker
- Imagem Docker oficial. Imagens de terceiros evoluem lentamente e às vezes ficam para trás nos patches de segurança.
- Estado montado em volume. Histórico de chat, prompts personalizados e pesos de modelo devem viver em um caminho de host.
- Passagem de GPU. Suporte de runtime NVIDIA em Linux, WSL2 no Windows, Metal-on-host no macOS.
- API compatível com OpenAI. Permite trocar o aplicativo sem reescrever o código do cliente.
- Interface web em uma rede. Um aplicativo desktop que também serve um navegador permite usá-lo de outras salas.
- Traga seu próprio modelo. Carregadores GGUF e safetensors permitem usar os modelos que você já baixou.
Comparação rápida
| Aplicativo | Melhor para | Plano gratuito | Preço inicial | Avaliação |
|---|---|---|---|---|
| Open WebUI | Interface web para LLMs locais | Completo | Gratuito | 4.8/5 |
| Ollama | Runtime de modelo de uma linha | Completo | Gratuito | 4.8/5 |
| LocalAI | Substituição compatível com OpenAI | Completo | Gratuito | 4.7/5 |
| LM Studio | GUI com navegador de modelos | Completo | Gratuito (nível pago para equipes) | 4.7/5 |
| Jan | Cliente desktop nativo | Completo | Gratuito | 4.6/5 |
| LiteLLM | Proxy multi-provedor | Completo | Contrato Enterprise | 4.7/5 |
| Msty | Cliente multi-modelo polido | Sim | $49/ano Pro | 4.6/5 |
Os aplicativos
1. Open WebUI – A melhor interface web para LLMs locais
Open WebUI é a interface que a maioria das pessoas quer dizer quando diz “ChatGPT local”. Ele vem com uma imagem Docker oficial, monta tudo (configurações, usuários, documentos RAG) em um único volume e se conecta a Ollama ou a qualquer endpoint compatível com OpenAI pronto para uso. Uma reconstrução de quatro minutos é realista: docker compose down, edite a tag, docker compose up, e os chats estão exatamente onde você os deixou.
Onde fica aquém: O teto de recursos da interface é alto e a superfície de configurações é densa. Usuários novos precisam de uma hora com a documentação.
Preços:
- Gratuito, licenciado MIT.
- Suporte Enterprise oferecido separadamente.
Plataformas: Funciona em qualquer lugar onde Docker funciona — Windows (WSL2 ou Docker Desktop), macOS, Linux.
Conclusão: Instale o Open WebUI primeiro. É a porta de entrada sensata para uma pilha Docker AI.
2. Ollama – O melhor runtime de modelo
Ollama é a razão pela qual o boom de LLM local atual é possível. Um CLI, uma biblioteca de modelos GGUF e uma API REST na porta 11434 que já falam uma dúzia de interfaces (incluindo Open WebUI, Jan e Msty). A imagem Docker suporta passagem de GPU NVIDIA no Linux; a compilação macOS nativa usa Metal diretamente no host.
Onde fica aquém: A convenção de nomenclatura de modelos Ollama diverge de Hugging Face, o que é confuso quando você copia um trecho.
Preços:
- Gratuito, licenciado MIT.
Plataformas: Windows, macOS, Linux nativos; imagem Docker disponível para todos os três.
Conclusão: Combine Ollama com Open WebUI para o caminho mais curto para um modelo local funcional.
3. LocalAI – A melhor substituição compatível com OpenAI
LocalAI é uma API auto-hospedada que fala o protocolo OpenAI byte por byte, então tudo o que você construiu contra ChatGPT funciona contra ele. Isso inclui CrewAI, LangChain, LlamaIndex e o cliente Python OpenAI. A imagem Docker oficial suporta modelos GGUF, safetensors, whisper, stable-diffusion e text-to-speech sob o mesmo endpoint.
Onde fica aquém: Sem interface de chat própria; combine com Open WebUI.
Preços:
- Gratuito, licenciado MIT.
Plataformas: Docker no Windows, macOS, Linux.
Conclusão: Escolha LocalAI se o código que deseja executar já fala a API OpenAI.
4. LM Studio – A melhor GUI com navegador de modelos
LM Studio é um aplicativo desktop nativo com navegador de modelos integrado no estilo Hugging Face e carregamento com um clique. Ele expõe um servidor compatível com OpenAI em localhost:1234 e pode ser executado dentro de um contêiner Docker no Linux com suporte a GPU. A facilidade de reconstrução vem de um diretório de configuração simples que se monta claramente.
Onde fica aquém: A interface desktop não é tão polida no Linux quanto no macOS. O nível pago é direcionado para equipes, não para indivíduos.
Preços:
- Gratuito para uso pessoal.
- LM Studio for Work nível pago para equipes.
Plataformas: Windows, macOS, Linux (Docker ou nativo).
Conclusão: Use LM Studio se quiser procurar e trocar modelos visualmente.
5. Jan – O melhor cliente desktop nativo
Jan é o aplicativo desktop de IA local mais limpo totalmente nativo. O cliente Electron funciona nos três sistemas operacionais, vem com uma API local compatível com OpenAI e se integra com Ollama, LocalAI e modelos remotos. Jan também pode ser executado em um contêiner Docker como servidor headless em uma caixa em casa.
Onde fica aquém: O ecossistema de extensão é menor que o do Open WebUI.
Preços:
- Gratuito, licenciado AGPL.
Plataformas: Windows, macOS, Linux.
Conclusão: Escolha Jan se quiser um aplicativo nativo em vez de uma aba do navegador.
6. LiteLLM – O melhor proxy multi-provedor
LiteLLM é um proxy que fala a API OpenAI com seu aplicativo e encaminha para qualquer provedor (OpenAI, Anthropic, Ollama, Bedrock, Vertex, Groq). Coloque na frente de sua pilha Docker AI e trocar provedores é uma mudança de configuração, não uma mudança de código. A imagem Docker oficial lida com autenticação, limites de taxa e orçamentos por usuário.
Onde fica aquém: Sem interface de chat própria; é infraestrutura.
Preços:
- Gratuito, licenciado MIT.
- LiteLLM Enterprise vendido separadamente.
Plataformas: Docker no Windows, macOS, Linux.
Conclusão: Adicione LiteLLM na frente de Ollama e Open WebUI se você também usar provedores de API pagos.
7. Msty – O melhor cliente multi-modelo polido
Msty é o mais polido dos clientes desktop. Ele suporta respostas de modelo lado a lado, visualizações divididas para comparar saídas e uma biblioteca de prompts limpa. Ele executa modelos locais via Ollama e modelos remotos por API. Msty não fornece oficialmente uma imagem Docker, mas o aplicativo nativo funciona bem com um backend Docker.
Onde fica aquém: Código fechado; recursos Pro bloqueados atrás de uma assinatura.
Preços:
- Nível gratuito para uso pessoal.
- Msty Pro cerca de $49/ano.
Plataformas: Windows, macOS, Linux.
Baixar: Site
Conclusão: Escolha Msty pelo cliente com melhor aparência, especialmente para comparação de modelos lado a lado.
Como escolher o certo
- Se você quer a opção mais simples: Ollama mais Open WebUI em um arquivo docker compose.
- Se você precisa de uma substituição compatível com OpenAI: LocalAI ou LiteLLM na frente.
- Se você quer procurar modelos visualmente: LM Studio.
- Se você prefere um aplicativo nativo: Jan ou Msty.
- Se você roteia entre OpenAI, Anthropic e local: LiteLLM.
- Se você quer comparação de modelos lado a lado: Msty.
- Se você tentou um script Python caseiro e perdeu seu histórico: Open WebUI, porque o histórico vive em um volume Docker que sobrevive a cada reconstrução.
FAQ
Qual é a maneira mais rápida de executar um LLM local em desktop com Docker?
docker run ollama/ollama, depois docker run open-webui/open-webui com a flag de rede apontando para Ollama. Ambas são imagens oficiais. O artigo do XDA que inspirou esta lista está fazendo aproximadamente isto.
Preciso de uma GPU?
Não, mas a inferência de CPU é lenta. Uma placa NVIDIA modesta, um Mac com Apple Silicon ou um AMD Ryzen com offload de iGPU funcionam todos. Ollama e LM Studio usam automaticamente o melhor backend disponível.
Esses aplicativos podem falar com APIs remotas também?
Sim. Open WebUI, LiteLLM, LM Studio, Jan e Msty suportam OpenAI, Anthropic e outros provedores remotos juntamente com modelos locais.
Qual é o melhor aplicativo desktop de IA gratuito?
Open WebUI mais Ollama é a pilha gratuita que a maioria das pessoas converge. Jan e LM Studio são alternativas nativas fortes.
Como posso manter o histórico de chat entre reconstruções de contêiner?
Monte o diretório de estado como um volume Docker. Open WebUI armazena tudo em /app/backend/data; LocalAI em /build/models; Jan em seu diretório de configuração. Persista esse volume no host e as reconstruções não perderão o histórico.
