Gerenciamento de driver NVIDIA Proxmox para LLMs locais no desktop

Proxmox 9.2, lançado em agosto de 2026, veio com uma atualização de kernel que quebrou os módulos de kernel abertos da NVIDIA para muitos usuários de laboratório caseiro executando LLMs locais, e a correção acabou sendo um driver corrigido que a NVIDIA lançou cerca de uma semana depois. Esse é o padrão que cada proprietário de Proxmox executando uma GPU para inferência chegará a conhecer: uma atualização de kernel chega, o driver rejeita os novos cabeçalhos, nvidia-smi retorna “No devices were found”, e Ollama ou vLLM não inicia até que você reconstrua.

Os melhores aplicativos para gerenciar drivers NVIDIA no Proxmox para cargas de trabalho LLM locais reduzem esse padrão de uma crise para uma rotina. Aqui estão sete ferramentas de desktop que vale a pena ter instaladas antes da próxima atualização de kernel.

O que procurar em uma stack Proxmox NVIDIA

Comece com o caminho de instalação do driver. O instalador .run fornecido pelo fornecedor funciona e vale a pena entender, mas para um laboratório caseiro você quer a reprodutibilidade de um pacote. Isso significa um .deb assinado do repositório CUDA da NVIDIA ou um caminho que pode ser scripted que fixa uma versão conhecida e boa do driver.

Observe DKMS. Dynamic Kernel Module Support reconstrói o módulo NVIDIA quando o kernel é atualizado. Se você pular DKMS, você reconstrói manualmente a cada atualização de kernel, e é aí que vive a falha. Confirme que o módulo DKMS foi realmente reconstruído após a atualização em vez de falhar silenciosamente.

Observe o lado da passagem de GPU. Se a GPU for passada para uma VM em vez de ser executada no host, o módulo vive dentro da VM e Proxmox precisa da vinculação vfio-pci para manter o host afastado da placa. A passagem quebrada é frequentemente confundida com um driver quebrado.

Por fim, planeje monitoramento e rollback. nvidia-smi em um loop informa que a placa está viva; Netdata mostra utilização ao longo do tempo; um snapshot do host tirado antes de uma atualização significa que o rollback é uma operação de um clique de restauração do Proxmox.

Comparação rápida

Aplicativo Função Plano gratuito Nível pago Recurso destaque
Proxmox VE O hipervisor em que NVIDIA tem que viver Gratuito, código aberto Assinatura paga para repositório corporativo Snapshot antes de cada atualização de driver arriscada
NVIDIA driver installer Envia os módulos CUDA e de kernel Gratuito Gratuito .deb assinado e instalador de rede que sobrevivem às atualizações de kernel
Aprox Proxmox client Acesse o console Proxmox de um telefone ou desktop Gratuito Gratuito Reinicie uma VM sem abrir o navegador
Ollama Executor LLM local que consome a GPU Gratuito, código aberto Gratuito Instalação em uma linha, pull de modelo em uma linha
Open WebUI Interface de chat sobre Ollama ou vLLM Gratuito, código aberto Gratuito Bate-papo multimodelo, RAG, sem dependências de nuvem
vLLM Servidor de inferência LLM de alto throughput Gratuito, código aberto Gratuito A alternativa de throughput mais alto para Ollama para configurações ocupadas
NVIDIA System Management Interface A linha de comando nvidia-smi Gratuito, fornecido com o driver Gratuito A ferramenta que você executa primeiro quando algo quebra
Netdata Métricas de GPU e sistema em tempo real Nível gratuito Planos de nuvem pagos Utilização de GPU, temperatura e VRAM ao longo do tempo

1. Proxmox VE

Proxmox VE é o hipervisor na base da stack. Para cargas de trabalho NVIDIA, a configuração que mais importa é a disciplina de snapshot: tire um snapshot do host e da VM com GPU antes de cada mudança de driver ou kernel arriscada, para que o rollback seja uma operação de dois cliques. O agendamento de Backup da interface web do Proxmox pode automatizar o snapshot de LXC ou VM; o host em si precisa de uma abordagem separada (uma instalação sem estado, um snapshot ZFS do pool raiz, ou uma nota manual dos sinalizadores do instalador).

Onde fica aquém: Proxmox em si não oferece um assistente de passagem de GPU de primeira parte. Você o configura via CLI e /etc/pve/qemu-server/<vmid>.conf.

Preços: Gratuito com repositório da comunidade. Assinatura paga para repositório corporativo começa com uma taxa anual modesta por socket.

Plataformas: Metal nu na caixa de computação.

Download: Proxmox VE

Conclusão: a base. Tire um snapshot antes de cada atualização de driver.

2. NVIDIA driver installer

O instalador de driver NVIDIA é fornecido como um pacote de repositório CUDA assinado ou um instalador .run. Para laboratórios caseiros Proxmox, o repositório CUDA é o caminho mais confiável: adicione o repositório, instale nvidia-driver-open (os módulos de kernel abertos) com DKMS, reinicie, verifique nvidia-smi. Quando uma atualização de kernel chega, DKMS reconstrói o módulo; quando não, você reconstrói manualmente uma vez e registra a correção.

Onde fica aquém: os módulos de kernel abertos ainda são o caminho mais novo. Algumas placas mais antigas precisam dos módulos proprietários, e a matriz de versão vale a pena ler antes de atualizar.

Preços: Gratuito.

Plataformas: Linux (Debian, Ubuntu e derivados, que Proxmox usa).

Download: NVIDIA CUDA repository

Conclusão: a instalação do repositório com DKMS é a configuração que mais frequentemente sobrevive às atualizações de kernel.

3. Aprox Proxmox client

Aprox é um cliente de telefone para Proxmox. Quando uma atualização de driver dá errado no meio do dia de trabalho, Aprox permite que você reinicie a VM afetada, reverta para um snapshot, ou verifique o histórico de tarefas sem abrir um navegador. Ele lê a mesma API Proxmox que a interface web usa.

Onde fica aquém: é um cliente, não uma substituição. A configuração profunda ainda passa pela interface web.

Preços: Gratuito.

Plataformas: Android; utilizável no Windows e ChromeOS via tempos de execução Android.

Download: Aptoide · Google Play

Conclusão: o cliente de recuperação rápida para um laboratório caseiro que você não quer entrar em um desktop completo.

4. Ollama

Ollama é a forma mais fácil de executar um LLM local em uma GPU Proxmox. Instale em uma VM ou contêiner LXC com GPU passada, puxe um modelo com um comando de uma linha, e Ollama expõe uma API local na forma padrão estilo OpenAI. Laboratórios caseiros que começaram com Ollama e nunca partiram raramente se arrependem.

Onde fica aquém: o throughput é menor que vLLM sob concorrência. Para uma configuração de bate-papo doméstico isso não importa; para uma pequena equipe talvez.

Preços: Gratuito, código aberto.

Plataformas: Linux, macOS, Windows.

Download: Ollama

Conclusão: o executor padrão para uma GPU de laboratório caseiro que ainda não está servindo vLLM.

5. Open WebUI

Open WebUI é a interface de chat que fica sobre Ollama ou vLLM. Ela lida com bate-papo multimodelo, RAG contra documentos locais, histórico de conversa compartilhada e várias contas de usuário. Execute em um contêiner na mesma VM que Ollama e aparece em uma URL que você pode marcar.

Onde fica aquém: é outra peça em movimento. Se você apenas bate-papo do terminal, curl contra a API Ollama funciona bem.

Preços: Gratuito, código aberto.

Plataformas: Docker (qualquer host).

Download: Open WebUI

Conclusão: a interface amigável para uma configuração LLM doméstica.

6. vLLM

vLLM é o servidor de inferência de throughput mais alto para quando uma casa ou pequena equipe gera throughput suficiente de tokens por segundo para que Ollama fique lento. Ele suporta atenção paginada, solicitações em lote e modelos de host com concorrência muito maior. A configuração é mais envolvida e sensível à versão CUDA.

Onde fica aquém: não é a experiência “instalar e esquecer” que Ollama é. Espere ler notas de lançamento e corresponder versões de CUDA e PyTorch.

Preços: Gratuito, código aberto.

Plataformas: Linux com CUDA.

Download: vLLM

Conclusão: a escolha quando a concorrência importa mais que a simplicidade da configuração.

7. NVIDIA System Management Interface

nvidia-smi é o comando que cada usuário do Proxmox-plus-NVIDIA executa primeiro quando algo quebra. Ele mostra versão do driver, tempo de execução CUDA, utilização de GPU, uso de VRAM, processos ativos, temperaturas e potência. Quando uma atualização de kernel chega, nvidia-smi é a primeira leitura honesta se o driver sobreviveu.

Onde fica aquém: é uma CLI. Há um loop gráfico nvidia-smi -l 1 que você pode deixar em um painel tmux, mas não é um dashboard.

Preços: Gratuito, fornecido com o driver.

Plataformas: Linux, Windows (via driver NVIDIA).

Download: Agrupado com a instalação do driver NVIDIA acima.

Conclusão: a primeira ferramenta que você deve executar após cada alteração de kernel ou driver.

8. Netdata

Netdata pega o coletor NVIDIA automaticamente quando o driver é instalado. Ele renderiza utilização de GPU, VRAM, potência e temperatura em granularidade de nível de segundo no navegador. Historicamente, é assim que você detecta um acelerador térmico que uma execução de benchmark não relata.

Onde fica aquém: a retenção de longo prazo no nível gratuito é limitada. Armazene métricas históricas no Prometheus se um ano de histórico de GPU importa.

Preços: Nível gratuito para um pequeno número de nós. Planos de nuvem pagos adicionam retenção.

Plataformas: Linux (agente), qualquer navegador (dashboard).

Download: Netdata

Conclusão: a forma mais rápida de detectar mau comportamento de GPU ao longo do tempo.

Como escolher

Cada GPU de laboratório caseiro deve começar com Proxmox VE (snapshot antes de mudanças de driver), repositório CUDA NVIDIA com DKMS, e nvidia-smi como ferramenta de verificação inicial. Adicione Ollama mais Open WebUI para uma configuração LLM amigável, ou vLLM se o throughput importa. Instale Aprox para controle do lado do telefone e Netdata para visibilidade contínua de GPU. Quando uma atualização de kernel chega, snapshot primeiro, atualize segundo, execute nvidia-smi terceiro, e verifique o painel de GPU Netdata quarto. Se algo falhar, o cliente Aprox é mais rápido que abrir um navegador para reverter.

FAQ

Por que Proxmox 9.2 quebrou meus LLMs locais?

A atualização de kernel estava à frente do suporte do driver NVIDIA para ela. NVIDIA lançou um driver corrigido cerca de uma semana depois; instalando esse driver, então executando dkms status e reiniciando, restaurou nvidia-smi e Ollama.

Devo usar os módulos NVIDIA abertos ou proprietários no Proxmox?

Para placas Ampere e mais recentes recentemente, os módulos de kernel abertos são o caminho recomendado em 2026 e o que NVIDIA está suportando para frente. Placas Turing e Pascal mais antigas ainda dependem dos módulos proprietários.

Preciso de passagem de GPU para Ollama no Proxmox?

Se a GPU estiver na caixa de computação e você executar Ollama no host, não. Se você executar Ollama dentro de uma VM, sim. Contêineres LXC podem compartilhar a GPU do host sem passagem com as regras corretas de cgroup e udev.

Qual é o melhor executor LLM local no Proxmox?

Ollama para facilidade de configuração, vLLM para concorrência. Ambos consomem o driver NVIDIA instalado no guest.

Como monitoro a temperatura da GPU ao longo do tempo no Proxmox?

Instale Netdata no guest que possui a GPU. Ele pega as métricas NVIDIA automaticamente. Para retenção de longo prazo, envie as métricas para Prometheus e visualize-as em Grafana.