Você roda a célula que carrega o modelo e recebe CUDA out of memory. Reduz o batch size, roda de novo, mesma mensagem. Reduz o contexto, quantiza para 4 bits, e finalmente o modelo entra na placa, só que agora responde devagar e com qualidade pior. Duas horas depois você desiste e sobe tudo para uma instância na nuvem, que funciona, e no fim do mês a fatura chega com um número que ninguém consegue explicar para o financeiro. É o sintoma clássico de uma workstation para inteligência artificial mal dimensionada.

Essa sequência quase nunca é um problema de código. É um problema de dimensionamento. Uma máquina de IA não é uma máquina de escritório com uma placa de vídeo melhor: ela é um sistema onde a memória da GPU define o teto absoluto do que você consegue rodar, e todo o resto existe para não deixar essa GPU ociosa. Errar essa hierarquia custa caro nos dois sentidos, comprando de menos e ficando travado, ou comprando de mais e pagando por capacidade que nunca é usada.

Este guia percorre a decisão inteira, na ordem em que ela precisa ser tomada: qual das três cargas de IA você realmente roda, quanta VRAM o seu caso exige, qual GPU atende, e como CPU, memória, armazenamento e energia sustentam tudo isso. No fim, a conta que mais pesa: quando a workstation local sai mais barata que a nuvem, e quando ela é a única opção legalmente viável porque o dado não pode sair da sua rede.

Antes do hardware: qual das três cargas de IA você roda

Quase todo dimensionamento errado começa aqui. “Trabalhar com IA” descreve três atividades com perfis de consumo distintos, e a maioria dos times faz uma delas com muito mais frequência do que imagina.

Treino do zero parte de pesos aleatórios e roda milhões de passos de otimização sobre um dataset grande. Consome VRAM para os pesos, os gradientes e os estados do otimizador ao mesmo tempo, o que triplica ou quadruplica a memória exigida em relação ao tamanho do modelo. É a carga mais pesada e a mais rara: treinar um modelo de linguagem de grande porte do zero é território de cluster, não de workstation. Treinar uma rede de visão para inspeção industrial ou um modelo tabular específico, isso sim cabe bem em máquina local.

Fine-tuning parte de um modelo pré-treinado e ajusta os pesos ao seu domínio. Com técnicas de adaptação de baixo posto, do tipo LoRA e QLoRA, você congela a maior parte da rede e treina apenas um conjunto pequeno de parâmetros adicionais, o que derruba a exigência de memória para uma fração do treino completo. É aqui que a workstation brilha: um modelo de 7 a 13 bilhões de parâmetros pode ser ajustado com QLoRA em uma única placa de 24 GB, e um de 70 bilhões passa a ser viável em uma placa de 96 GB.

Inferência local é rodar o modelo já pronto para gerar respostas, imagens, embeddings ou classificações. Não guarda gradientes nem estado de otimizador, então o consumo é o tamanho dos pesos mais o cache de atenção. É a carga mais leve por execução e a mais frequente por volume, e a que mais se beneficia de ter a máquina embaixo da mesa: cada chamada que você não faz para uma API é um custo que não aparece na fatura e um dado que não sai da sua rede.

Em uma semana típica, quantas horas você passa em cada uma dessas três? A resposta define para qual delas a máquina deve ser dimensionada.

VRAM: o teto que decide o que você consegue rodar

Existe uma diferença de natureza entre “lento” e “impossível”, e na IA quem separa as duas coisas é a VRAM. Se o modelo, os ativamentos e o cache não couberem na memória da placa, o processo não fica lento: ele quebra. Dá para empurrar camadas para a memória do sistema, e frameworks como o llama.cpp fazem isso com elegância, mas a queda de desempenho é de uma a duas ordens de grandeza, porque o barramento PCIe é muito mais lento que a memória local da GPU. Por isso a regra de dimensionamento é invertida em relação a uma workstation de CAD ou de render. Em vez de perguntar “qual placa é mais rápida no meu orçamento”, pergunte “qual é o maior modelo que eu preciso rodar, e quanta memória ele exige”. Um projeto que precisa de 60 GB não roda em uma placa de 32 GB nem com o dobro de núcleos.

Como estimar a VRAM que o seu modelo exige

Para inferência existe uma conta de guardanapo que erra pouco. Cada parâmetro ocupa 2 bytes em precisão de 16 bits, 1 byte em 8 bits e cerca de meio byte em 4 bits. Multiplique os parâmetros pelo peso do byte, some de 15 a 20 por cento de folga para o cache de atenção e o overhead do runtime, e você tem o número.

Um exemplo verificável: o Llama 3.3 de 70 bilhões de parâmetros, em 16 bits e contexto de 4 mil tokens, exige em torno de 143 GB de VRAM. Em 8 bits, cai para cerca de 77 GB. Em 4 bits no esquema Q4_K_M, o arquivo fica em torno de 42,5 GB e o consumo total perto de 45 GB. É a diferença entre precisar de um servidor com várias placas de datacenter e precisar de uma única placa profissional de 48 GB.

O contexto é a variável que quase todo mundo esquece na hora de comprar. O cache de chave e valor cresce de forma linear com o número de tokens: naquele mesmo modelo em 4 bits, ele ocupa por volta de 0,6 GB com 4 mil tokens, cerca de 3,5 GB com 32 mil e perto de 11 GB com 128 mil. Se o seu uso é análise de documentos longos, processos, laudos ou contratos, dimensione para o contexto de produção, não para o do tutorial.

Para treino a conta é outra. Além dos pesos, você carrega gradientes do mesmo tamanho e estados do otimizador que, no AdamW em 32 bits, ocupam mais dois blocos equivalentes, o que leva o treino completo em 16 bits a algo em torno de 16 bytes por parâmetro. Com QLoRA, o modelo base fica quantizado e só os adaptadores são treináveis, derrubando o total para perto do custo de inferência. A documentação oficial da Hugging Face sobre treino em GPU única detalha as técnicas que empurram esse teto para baixo.

Quantização ajuda, mas cobra

Reduzir a precisão é a alavanca mais eficiente que você tem, e a mais mal compreendida. Modelos acima de 30 bilhões de parâmetros preservam quase toda a qualidade original em 4 bits, enquanto modelos na faixa de 7 bilhões perdem alguns pontos percentuais de acurácia no mesmo tratamento, o que pode ser irrelevante em um chat interno e inaceitável em um classificador que apoia decisão clínica ou pericial. Quantização também é ferramenta de inferência, não de pesquisa: quem desenvolve arquitetura ou precisa de reprodutibilidade numérica trabalha em 16 ou 32 bits, e a VRAM volta a ser o gargalo duro.

Faixas de VRAM por cenário de uso

Trate a coluna “mínima” como o limite onde o trabalho é possível com concessões, e a “recomendada” como o ponto em que você para de gastar tempo contornando falta de memória.

GPU: a hierarquia real das placas para IA em 2026

Com o teto de VRAM definido, a escolha da placa deixa de ser lista de benchmarks e vira decisão de faixa. O catálogo profissional da NVIDIA em 2026 está organizado em degraus de memória bem claros, e essa é a forma mais honesta de comparar.

A RTX PRO 6000 Blackwell Workstation Edition entrega 96 GB de GDDR7 com ECC e 24.064 núcleos CUDA, com envelope térmico de 600 W, e tem uma variante Max-Q com a mesma memória e consumo limitado a 300 W, feita para gabinetes com restrição de energia ou configurações de duas placas. Um degrau abaixo, a RTX PRO 5000 Blackwell existe em versões de 48 GB e de 72 GB, ambas com 14.080 núcleos CUDA e 300 W. Abaixo dela, a RTX PRO 4500 traz 32 GB de GDDR7 com ECC, a RTX PRO 4000 traz 24 GB, e a RTX PRO 2000 fecha a linha com 16 GB, 4.352 núcleos CUDA e apenas 70 W.

Na linha de consumo, a GeForce RTX 5090 com 32 GB tem a melhor relação entre memória e preço no mercado brasileiro e responde bem em difusão de imagem, inferência de modelos médios e fine-tuning com QLoRA. As demais placas da série 50 param em 16 GB, o que as coloca na faixa de entrada. A escolha entre GeForce e linha profissional envolve mais do que VRAM: memória com ECC, certificação de driver, densidade de duas placas no mesmo chassi e garantia estendida pesam tanto quanto desempenho bruto em ambiente corporativo e em licitação, recorte detalhado no comparativo entre GeForce RTX e placas profissionais para machine learning.

Duas placas resolvem o problema? Depende do que você faz

Somar duas placas de 48 GB não cria uma placa de 96 GB para todos os efeitos. Para inferência, frameworks modernos dividem as camadas entre as GPUs e a soma funciona bem. Para treino, o padrão é paralelismo de dados, em que cada placa recebe uma cópia completa do modelo e um pedaço diferente do lote, o que acelera a época mas não aumenta o modelo que cabe. A consequência de compra é direta: se o limitante é o tamanho do modelo, uma placa maior vence duas menores; se é o tempo de época em um modelo que já cabe, duas placas menores podem ser a melhor decisão de custo. O artigo sobre onde alocar o orçamento entre GPU, RAM e CPU trata desse trade-off.

CPU e linhas PCIe: o componente que ninguém dimensiona e todo mundo culpa

O processador não treina o modelo, mas decide se a GPU vai trabalhar ou esperar. Em um pipeline de visão computacional, a CPU faz leitura, decodificação, redimensionamento, normalização e aumento de dados antes de entregar o lote para a placa. Se ela não acompanha, a GPU fica com utilização oscilando entre 40 e 60 por cento, e você compra uma placa cara para usar metade dela. A regra prática é reservar de 4 a 8 núcleos físicos por GPU para os workers de carregamento: em uma máquina de uma placa, 12 a 16 núcleos dão folga; com duas placas e pré-processamento pesado, a conversa começa em 24.

O ponto menos discutido, e mais decisivo, são as linhas PCIe. Uma GPU quer 16 linhas em PCIe 5.0 para transferir lotes sem estrangulamento, e cada SSD NVMe consome mais 4. Plataformas de desktop entregam de 20 a 28 linhas utilizáveis a partir do processador, suficiente para uma placa e um ou dois SSDs, mas obrigam a dividir o barramento assim que entra a segunda GPU, caindo para 8 linhas em cada uma. Plataformas de estação de trabalho das linhas Threadripper e Xeon oferecem de 64 a mais de 100 linhas, e é isso que permite duas placas em 16 linhas plenas mais um subsistema de armazenamento sério. Essa é a fronteira real entre um desktop potente e uma workstation, comparação detalhada na análise de Threadripper 9000 contra Intel Xeon.

RAM do sistema: o espelho da VRAM

A memória do sistema cumpre três funções que se somam: hospeda o dataset em cache para não ir ao disco a cada época, guarda os buffers dos workers de carregamento, e recebe o modelo inteiro quando ele é lido do disco, antes de ir para a GPU. Essa terceira é a que gera surpresa. Carregar um modelo de 70 bilhões de parâmetros quantizado exige que os 42 GB de pesos passem pela memória do sistema, mesmo que o destino final seja a VRAM. Se a máquina tem 32 GB de RAM, o carregamento entra em swap e demora minutos em vez de segundos, ou falha.

A heurística que se sustenta bem é manter a RAM em duas vezes a VRAM total instalada, com piso de 64 GB. Uma placa de 32 GB pede 64 GB de sistema; uma de 96 GB pede 192 GB; duas de 96 GB pedem 256 GB ou mais, especialmente com dataset tabular grande, em que a base inteira vive em memória durante o processamento. Memória registrada com ECC é a escolha padrão para operação de dias seguidos, porque um bit corrompido em um treino de 40 horas custa muito mais do que a diferença de preço do módulo.

Armazenamento NVMe: o pipeline de dados

Dataset em disco lento é GPU parada. Em treino de visão computacional com centenas de milhares de imagens pequenas, o acesso é aleatório e intenso, e o que importa não é a taxa sequencial do marketing, é o número de operações por segundo em blocos pequenos e a latência sob fila profunda. Um SSD NVMe entrega isso, um SATA não, e disco mecânico está fora de cogitação como origem de treino.

O arranjo que funciona bem separa três camadas: um NVMe rápido de 1 a 2 TB para sistema, ambientes virtuais e cache de frameworks; um segundo NVMe de 2 a 4 TB dedicado ao dataset ativo e aos checkpoints, que são gravados repetidamente e somam dezenas de gigabytes por experimento; e uma camada de capacidade, em SSD SATA maior ou disco mecânico, para datasets brutos e versões antigas de modelos. As diferenças entre interfaces estão no guia sobre tipos de armazenamento para workstations.

Refrigeração e energia: a parte que decide se a máquina aguenta dias seguidos

Um render de arquitetura dura horas. Um treino dura dias. Essa diferença muda o projeto térmico e elétrico, e é o que mais separa uma workstation de IA bem construída de um desktop caro que trava na madrugada de sexta.

Sob carga contínua, uma GPU que atinge o limite térmico reduz frequência para se proteger. A máquina não desliga e não dá erro, só entrega menos, de forma silenciosa: um treino que deveria levar 30 horas leva 40, e ninguém percebe porque não há alerta. Duas placas empilhadas em gabinete mal ventilado pioram o quadro, porque a de cima respira o ar quente da de baixo. Placas com refrigeração do tipo blower ou variantes de menor consumo, como a Max-Q de 300 W, existem justamente para densidade de duas GPUs, e a lógica de gabinete é a mesma do artigo sobre ventilação para renders longos, com exigência maior de duração.

Na energia, some o consumo de pico e acrescente margem de 30 a 40 por cento. Uma placa de 600 W somada a um processador de estação de trabalho de 350 W já ultrapassa 1.000 W antes de contar memória, SSDs e ventoinhas, o que coloca a fonte na faixa de 1.500 W. Nobreak com autonomia real não é luxo: uma queda de energia na hora 38 de um treino de 40 horas apaga o trabalho inteiro se o último checkpoint for de seis horas atrás.

Nuvem contra máquina local: onde a conta realmente vira

Este é o argumento que decide a compra na maioria dos times, e merece honestidade em vez de slogan. A nuvem tem vantagens reais: elasticidade, acesso a aceleradores que você não compraria e ausência de investimento inicial. O problema não é a nuvem, é usar nuvem para carga previsível e contínua. Os números públicos ajudam a enxergar onde fica a fronteira. Segundo o levantamento da CloudZero sobre custo de GPU H100, o aluguel por hora dessa placa em 2026 varia de cerca de 1,38 dólar em provedores especializados a mais de 8 dólares em grandes nuvens públicas, com mediana de mercado entre 2,29 e 3,12 dólares por hora entre 42 provedores analisados. O mesmo estudo traz a heurística mais útil: alugar sai mais barato para times que rodam menos de 40 horas de GPU por semana, e comprar faz sentido para quem precisa de acesso contínuo por 18 meses ou mais.

Para uma workstation o ponto de virada chega antes, porque você não está comprando um nó de datacenter com placas SXM e infraestrutura de rack, e sim uma máquina de mesa cujo custo é uma fração disso. Um time que roda inferência interna o dia inteiro, com dois ou três desenvolvedores consumindo o modelo, paga hora de nuvem em regime praticamente contínuo, que é o cenário em que a máquina local ganha.

Há um efeito que não aparece em planilha e costuma ser o maior ganho: com máquina local, o custo marginal de um experimento é zero. Ninguém pensa duas vezes antes de rodar mais uma varredura de hiperparâmetros ou refazer um fine-tuning que deu ruim. Com nuvem por hora, cada tentativa tem preço visível, e times experimentam menos justamente na fase em que experimentar mais gera resultado. Do outro lado, a demanda global por aceleradores segue pressionando o preço do hardware, efeito analisado no artigo sobre o impacto da IA no preço das workstations.

Soberania de dados: quando local não é preferência, é requisito

Existe um conjunto de casos em que a conta nem chega a ser feita, porque o dado não pode sair: pesquisa acadêmica sob termo de consentimento e comitê de ética; imagem e prontuário em saúde, com regras de dado sensível previstas na LGPD; setor público, com sigilo administrativo, processo em segredo de justiça e exigências de licitação sobre localização de infraestrutura; segurança pública, com imagem de câmera e material de investigação que não pode transitar por servidor de terceiro, muito menos em jurisdição estrangeira.

Nessas situações, rodar o modelo na máquina do pesquisador ou no rack da própria instituição não é escolha de custo, é a condição para o projeto existir. O mesmo vale para empresa privada com propriedade intelectual sensível, seja código-fonte, dataset proprietário ou informação estratégica de cliente: enviar isso para uma API externa significa aceitar termos de uso que você não controla e que podem mudar. Times com dado regulado desenham toda a infraestrutura em torno desse requisito, como no material sobre workstations para empresas e ciência de dados.

Dimensione sua workstation para inteligência artificial em cinco perguntas

Antes de olhar preço de componente, responda estas cinco. Elas cobrem quase toda a variação de um dimensionamento real.

1. Qual é o maior modelo que você precisa rodar, e em qual precisão? Esse número, em gigabytes, é o piso da sua VRAM.
2. Qual é o contexto de produção, não o do exemplo? Contexto de 128 mil tokens custa mais de 10 GB extras em modelo grande.
3. Quantas horas por semana a GPU fica ocupada? Abaixo de 15, nuvem pode ser mais racional. Acima de 40, a máquina local se paga rápido.
4. O dado pode legalmente sair da sua rede? Se a resposta é não, o resto da conta é secundário.
5. Quem mais vai usar essa máquina? Uma estação compartilhada por acesso remoto muda o dimensionamento de RAM, armazenamento e refrigeração.

Definido o hardware, sobra a camada que faz tudo funcionar junto: driver, versão de CUDA e compatibilidade de framework, coberta no guia de ambiente de desenvolvimento e drivers para machine learning.

Configuração Zenion recomendada

A Zenion parte do software e do fluxo de trabalho antes de escolher qualquer peça, então estas faixas são ponto de partida para a conversa técnica, não catálogo fechado. Valores em reais variam com câmbio e configuração final.

A escolha entre uma placa grande e duas médias, entre desktop e estação de trabalho, e entre memória comum e ECC registrada, é onde a consultoria faz diferença. A base conceitual está no artigo sobre o que priorizar em hardware para IA e ciência de dados, e o caso de geração de imagem em PC para Stable Diffusion e Midjourney local.

Perguntas frequentes

Quanta VRAM eu preciso para rodar IA localmente?
Depende do maior modelo que você quer usar. Para modelos de até 8 bilhões de parâmetros quantizados, 16 GB resolvem com folga. Para 70 bilhões em 4 bits, o piso é 48 GB, e 96 GB se quiser contexto longo sem concessão. Some de 15 a 20 por cento de margem sobre o tamanho do modelo para o cache de atenção.

Placa GeForce serve para inteligência artificial ou preciso de placa profissional?
Serve bem para inferência, difusão de imagem e fine-tuning com QLoRA. A linha profissional entra quando você precisa de mais de 32 GB em uma única placa, memória com ECC, certificação de driver ou duas placas densamente instaladas no mesmo chassi, situação comum em pesquisa e em compra pública.

Qual processador é melhor para uma workstation de IA?
Ele precisa alimentar a GPU sem virar gargalo, e o critério mais importante depois da contagem de núcleos são as linhas PCIe. De 12 a 16 núcleos atendem bem uma máquina de uma placa. Para duas placas em 16 linhas plenas mais armazenamento NVMe sério, você precisa de plataforma de estação de trabalho, com 64 linhas ou mais.

Vale mais a pena usar nuvem ou comprar uma workstation para IA?
Abaixo de 15 horas semanais de GPU ocupada, a nuvem tende a ser mais racional. Entre 15 e 40 horas o cenário depende do preço da instância. Acima de 40 horas de uso contínuo, a máquina local costuma se pagar em prazo curto e torna o custo previsível.

Dá para treinar um modelo de linguagem grande em uma workstation?
Treinar do zero um modelo de grande porte, não: isso exige cluster. Fazer fine-tuning de modelos de 7 a 70 bilhões de parâmetros com adaptação de baixo posto, sim, e é o uso mais produtivo de uma workstation de IA. Treinar redes menores de visão ou modelos tabulares próprios também cabe bem em máquina local.

Quanta memória RAM uma máquina de IA precisa ter?
A regra prática é o dobro da VRAM instalada, com piso de 64 GB. O carregamento do modelo passa pela memória do sistema antes de chegar à placa, então uma máquina com placa de 96 GB e apenas 64 GB de RAM entra em swap justamente ao carregar o modelo maior.

O próximo passo é olhar o seu fluxo, não a lista de peças

Você já tem os quatro números que importam: o tamanho do maior modelo que precisa rodar, o contexto real de produção, as horas semanais de GPU ocupada e a resposta sobre se o dado pode sair da sua rede. Com eles em mãos, o dimensionamento deixa de ser adivinhação e vira engenharia.

A equipe da Zenion faz esse levantamento antes de propor qualquer configuração, justamente para não entregar uma placa de 96 GB para quem roda modelos de 13 bilhões nem uma de 16 GB para quem precisa carregar 70 bilhões em contexto longo. Fale com a equipe com os seus quatro números e o software que você usa. Para universidades, institutos de pesquisa e órgãos públicos, o atendimento passa pela área de empresas e setor público, que trata também das exigências de processo de compra.