O que define o custo de rodar um LLM local numa RTX 5090?

O custo de rodar um LLM local numa RTX 5090 não é a placa: é o conjunto de memória de vídeo, RAM, energia, quantidade de pessoas usando ao mesmo tempo e horas de operação que o servidor exige. Uma 5090 tem 32 GB de memória e atende bem um modelo médio com vários usuários, mas não roda modelo de texto, imagem e vídeo pesados ao mesmo tempo, e esse limite é o que mais pesa na conta.

Você já viu alguém comprar a máquina mais forte do mercado e descobrir depois que ela não faz o que precisava? Este texto mostra os fatores que definem o custo real, com números medidos e estimativas marcadas como estimativas, a partir de um levantamento técnico de infraestrutura de IA local que fizemos em outubro de 2026 para um servidor com uma única RTX 5090.

Pela ficha técnica da NVIDIA, a RTX 5090 tem 32 GB de memória GDDR7, consumo de placa de 575 W e pede uma fonte de 1.000 W no sistema. Esses três números já dizem muito: o que cabe na memória, quanto de energia entra na conta e que tipo de máquina precisa ficar em volta da placa.

Na prática, um modelo de texto de porte médio ocupa boa parte dessa memória. O Gemma 4 26B-A4B, um modelo aberto sob licença Apache 2.0, ocupa cerca de 17,2 GB na versão quantizada em 4 bits publicada no Hugging Face. Somando a memória que o servidor usa para guardar o contexto das conversas, a nossa estimativa no levantamento foi de cerca de 25 GB ocupados. Um modelo de imagem de boa qualidade pede 20 GB ou mais. Os dois não cabem juntos na mesma placa.

Em Neuromancer, de William Gibson, o hacker Case vive para o seu deck, um Ono-Sendai Cyberspace 7. O livro passa pouco tempo admirando o aparelho e muito tempo mostrando o que ele exige: acesso, gente, tempo e risco. O deck é a parte visível. O resto é a operação.

Com IA local acontece o mesmo. A placa é a compra que aparece na nota. O custo de verdade aparece depois, quando é preciso decidir o que fica ligado durante o expediente, o que vai para uma fila à noite, o que acontece quando o servidor reinicia e quem cuida disso.

Memória da GPU. Define qual modelo cabe e quantas conversas rodam ao mesmo tempo. Com uma placa só, a solução que recomendamos foi dividir o dia em modos: modelo de texto grande no horário comercial, modelo menor e geração de imagem leve à noite, e a placa inteira para imagem, vídeo e treino de madrugada.

RAM do servidor. É um gargalo menos óbvio. No levantamento, 64 GB de RAM se mostraram insuficientes para vídeo pesado e para o modo de espera do servidor de modelos. O vLLM, servidor de modelos que usamos, tem um modo que tira os pesos da GPU e guarda na RAM para liberar a placa em segundos, mas isso só funciona com RAM sobrando. Por isso a nossa recomendação foi subir para 128 GB antes de pensar numa segunda placa.

Energia e infraestrutura. São 575 W só na placa, fonte compatível, refrigeração e um servidor que fica ligado o dia todo.

Treino. Ajustar o modelo ao tom da empresa nem sempre cabe na máquina. Segundo a documentação da Unsloth, treinar um ajuste do tipo LoRA no Gemma 4 26B-A4B precisa de mais de 40 GB de memória, enquanto o Gemma 4 31B em QLoRA cabe em 22 GB. Quando não cabe, a saída é alugar uma GPU maior por algumas horas.

Licenças. Nem todo modelo aberto pode ser usado comercialmente. Alguns modelos de imagem conhecidos têm licença não comercial, e outros só são gratuitos abaixo de um certo faturamento. Isso precisa ser checado antes de colocar em produção.

Operação. Alguém precisa atualizar, monitorar, medir e responder quando algo quebra. Essa costuma ser a linha mais esquecida da conta.

Depende do modelo, do tamanho das perguntas e de quantas pessoas pedem resposta ao mesmo tempo. Um teste publicado por Patrick Gawron com o Qwen3.6-35B-A3B no vLLM, numa RTX 5090, registrou cerca de 105 tokens por segundo com uma conversa e 160 no total com duas.

Para o Gemma 4 26B-A4B, a nossa estimativa foi de 16 a 32 respostas sendo geradas ao mesmo tempo. Se no pico só uma parte pequena dos usuários logados estiver esperando resposta, isso atende algo entre 100 e 250 funcionários ativos. É uma estimativa com premissa declarada, e a premissa precisa ser medida com o uso real. O critério de conforto que adotamos foi a primeira palavra da resposta chegar em menos de 2 segundos para 95% dos pedidos e a geração ficar acima da velocidade de leitura.

A regra que propusemos foi não comprar por intuição. A segunda placa entra quando um destes sinais se mantém por duas a quatro semanas: a espera pela primeira palavra passa de 3 segundos com frequência nos picos; o marketing precisa gerar imagem e vídeo durante o dia e a fila noturna não resolve; o gasto mensal com serviços de nuvem usados como reserva passa do valor mensal de amortizar uma placa em 24 a 36 meses, somando energia; ou o dado não pode sair da empresa e o modelo grande precisa ficar disponível o tempo todo.

Donald Knuth escreveu em 1974 que devemos esquecer as pequenas eficiências em cerca de 97% do tempo, porque "a otimização prematura é a raiz de todo mal" (Structured Programming with go to Statements). Comprar hardware antes de medir o uso é a versão cara disso.

O primeiro passo que recomendamos é uma fase de prova de cerca de duas semanas: instalar o servidor de modelos, comparar dois ou três modelos com mais de 100 perguntas reais em português e rodar um teste de carga aumentando o número de usuários simultâneos. Ao lado disso, um roteador de modelos como o LiteLLM permite dar limite de gasto por setor e mandar o pedido para a nuvem quando a GPU está ocupada ou fora do ar, com os dados pessoais mascarados antes.

Ao fim dessa fase, a empresa sabe qual modelo escolher, quantas pessoas a placa aguenta e se a RAM ou uma segunda GPU fazem falta. A decisão de compra passa a ser feita com números.

Uma RTX 5090 basta para uma empresa? Para um modelo de texto médio com algumas dezenas de pessoas usando ao mesmo tempo, a nossa estimativa diz que sim. Para texto, imagem e vídeo pesados juntos, não: é preciso agendar o uso ou ter outra placa.

Vale treinar um modelo próprio? Raramente como primeiro passo. O que muda com frequência, como preço, estoque e política, deve ficar em documentos consultados pela IA, não no treino. O ajuste fino serve mais para tom de voz e formato.

Dá para usar só nuvem e esquecer o servidor? Dá, e às vezes é o melhor caminho. O servidor local faz sentido quando o dado não pode sair da empresa ou quando o volume de uso torna a nuvem mais cara que a máquina.

A DOUVRAS Labs faz esse dimensionamento antes da compra e monta a operação depois: servidor de modelos, divisão de horários da GPU, roteamento para a nuvem com limite de gasto, base de documentos e agentes para cada setor. É o mesmo trabalho que oferecemos em IA local para escritórios jurídicos e contábeis, em agentes e assistentes de IA e em automação e integrações.

E na sua empresa, alguém já mediu quantas pessoas usariam a IA ao mesmo tempo antes de escolher a máquina?

Douglas Henrique, DOUVRAS Labs.

NVIDIA. GeForce RTX 5090, especificações. nvidia.com

cyankiwi. gemma-4-26B-A4B-it-AWQ-4bit. Hugging Face. huggingface.co

vLLM. Sleep Mode. Documentação. docs.vllm.ai

Unsloth. Gemma 4: como treinar. Documentação. unsloth.ai

Gawron, Patrick. Qwen3.6-35B NVFP4 no vLLM numa RTX 5090, 2026. patrickgawron.com

Knuth, Donald E. Structured Programming with go to Statements. ACM Computing Surveys, 1974. dl.acm.org

Gibson, William. Neuromancer. Ace Books, 1984.

LiteLLM. Users, teams e budgets. Documentação. docs.litellm.ai