Qual computador usar para modelos de linguagem locais?

Escolha o computador para modelos de linguagem locais pelo tamanho do modelo, quantização, contexto, velocidade desejada e número de usuários. GPU com VRAM suficiente acelera a inferência, mas modelos também podem usar RAM, CPU ou memória unificada, normalmente com desempenho diferente. Quantização em 8 ou 4 bits permite carregar modelos maiores, enquanto contextos longos aumentam o uso de memória. Confirme suporte da GPU e do sistema no Ollama, PyTorch ou framework escolhido. Para uso individual, uma workstation pode ser suficiente; atendimento simultâneo pode exigir múltiplas GPUs ou servidor. Reserve SSD para modelos e cache, RAM para offload e margem térmica. Teste o modelo e o contexto reais antes da compra.