Energia é a restrição inescapável da infraestrutura de IA. Quantos tokens uma AI factory consegue gerar dentro de um orçamento fixo de energia determina sua receita e rentabilidade. Por isso, a performance por watt, uma métrica que não pode ser manipulada e só é conquistada com resultados reais, é a base das AI factories.
À medida que a IA agêntica impulsiona a demanda por tokens, as decisões de infraestrutura que as organizações tomam hoje determinarão quem consegue escalar e quem ficará para trás em um mundo com restrições de energia.
Praticamente todos os modelos de IA de fronteira hoje rodam em uma arquitetura mixture-of-experts (MoE). Servir esses modelos em grande escala com eficiência significa que o tamanho do domínio de GPU, o número de GPUs conectadas por um interconect ultrarrápido de scale-up, é fundamental: quanto maior, melhor.
Enquanto a geração NVIDIA Hopper definiu o padrão com um domínio de oito GPUs, a escala da IA de fronteira atual já o superou. Servir MoE com um domínio de 72 GPUs exige codesign full-stack e a profundidade operacional conquistada ao executar esses modelos sob carga real de produção.
Com a plataforma NVIDIA Blackwell NVL72, essa base já está construída e comprovada, entregando a maior performance por watt para maximizar receitas e o menor custo por token para maximizar as margens de lucro. É sobre essa base que a plataforma NVIDIA Vera Rubin se desenvolve para elevar ainda mais a eficiência energética em escala de rack.
Maximizando a performance por watt para IA de fronteira
Cada nova geração de modelos de fronteira traz mudanças arquiteturais que desbloqueiam maior inteligência ao mesmo tempo em que demandam novas otimizações para operar com eficiência em escala.
Entre a mais nova geração dos principais modelos abertos, o NVIDIA GB300 NVL72 entrega até 25x de performance por watt em comparação com a geração NVIDIA Hopper, demonstrando que a performance de MoE melhora ao migrar de um domínio de 8 GPUs para 72 GPUs. Esses números refletem o estágio atual do Blackwell, um ponto de partida que continua melhorando.
Um único número só conta parte da história. Cargas de trabalho diferentes exigem diferentes pontos de operação: algumas otimizam para latência, outras para throughput e custo, e a maioria precisa transitar entre os dois.
Para representar melhor esses pontos de operação, a NVIDIA apresenta curvas de Pareto para cada modelo em vez de um único ponto e fornece ferramentas como o DynoSim para ajudar as equipes a encontrar seu ponto ideal na fronteira de Pareto antes de gastar uma única GPU-hora em validação.
Os sistemas NVIDIA GB300 NVL72 entregam até 25x de performance por watt em comparação com a NVIDIA Hopper no DeepSeek V4 Pro. Fonte: SemiAnalysis InferenceX
No GLM5.1, os sistemas NVIDIA GB300 NVL72 entregam até 20x de performance por watt em comparação com a NVIDIA Hopper. Fonte: SemiAnalysis InferenceX
Os sistemas NVIDIA GB300 NVL72 entregam até 10x de performance por watt em comparação com a NVIDIA Hopper para o Kimi K2.6, um modelo desenvolvido especificamente para tarefas agênticas de longo horizonte. Fonte: SemiAnalysis InferenceX
A performance por watt que a NVIDIA Blackwell entrega é resultado de um codesign extremo: cada componente do sistema em escala de rack, do silício ao software, projetado em conjunto para maximizar o throughput de tokens em workloads de inferência de IA. Esse codesign atinge cada camada do stack.
Por exemplo, o NVIDIA NVLink Switch, essencial para a performance em escala de rack, foi desenvolvido especificamente para desbloquear domínios massivos de scale-up de GPU, e não adaptado de redes de uso geral. Agora em sua sexta geração com a plataforma Vera Rubin, suas capacidades são projetadas especificamente para workloads de IA, como o SHARP, que realiza computação em rede diretamente no switch, descarregando trabalho das próprias GPUs.
O stack de software de inferência da NVIDIA, incluindo NVIDIA Dynamo e TensorRT LLM, bem como SGLang e vLLM, é construído para executar a gama completa de otimizações: quantização NVFP4, serving disaggregado, paralelismo de especialistas em grande escala, roteamento KV-aware, offloading de cache KV e muito mais. Essas otimizações se somam para multiplicar a performance entregue por cada GPU. Além disso, o software continua melhorando a performance com o tempo: no DeepSeek V4, a performance por watt melhorou em até 5x em um único mês.
Em AI factories, a energia perdida para resfriamento e ineficiências no nível do rack pode significar que apenas cerca de 60% da eletricidade extraída da rede se converte em trabalho útil de IA. O NVIDIA DSX MaxLPS, o software de energia e eficiência na plataforma NVIDIA DSX, elimina essa lacuna ao redistribuir energia entre GPUs e racks em tempo real, com suporte a resfriamento líquido a água morna e técnicas como power steering para extrair mais performance. Isso permite que os operadores rodem até 40% mais GPUs dentro do mesmo orçamento de energia.
Produção é onde importa
Confiabilidade em escala de rack na escala de uma AI factory é conquistada com esforço. Sistemas em escala de rack introduzem modos de falha que implantações de nó único jamais enfrentam, e lidar com eles exige rigor de engenharia e tempo em produção.
Os sistemas NVIDIA Blackwell NVL72 continuam definindo o padrão em uma ampla gama de modelos e casos de uso em produção, entregando performance sustentada, confiabilidade em nível de rack e economia que se mantêm sob tráfego real dia após dia.
É por isso que os principais laboratórios de IA, como Anthropic, OpenAI e SpaceXAI, usam sistemas NVIDIA Blackwell NVL72 para executar inferência.
Além disso, uma variedade de provedores de serviços de inferência e empresas nativas de IA utiliza a plataforma Blackwell para implantar modelos abertos em produção.
A CoreWeave implantou o Kimi K2.6 no NVIDIA GB300 NVL72, combinando quantização NVFP4 e decodificação especulativa EAGLE3 para maximizar a performance de inferência.
A Perplexity executa o Qwen3 235B e o Qwen3.5-397B-A17B pós-treinado no NVIDIA GB200 NVL72 para sua plataforma de AI agent, atendendo milhões de consultas diárias com a latência e a confiabilidade que os usuários precisam.
A Fireworks AI implanta o GLM 5.2 na plataforma NVIDIA Blackwell, viabilizando implantações em produção para clientes como Cursor e Factory AI.
Essa experiência acumulada em produção, construída ao longo de gerações de modelos de fronteira e implantações reais, é o que dá à NVIDIA Vera Rubin sua vantagem inicial.
Saiba mais sobre a plataforma NVIDIA Vera Rubin neste blog técnico e encontre detalhes sobre a plataforma NVIDIA DSX em escala de AI factory e o DSX MaxLPS.