A NVIDIA anunciou o NVIDIA DGX Cloud Lepton™, uma plataforma de IA com um mercado de computação que conecta os desenvolvedores do mundo todo que criam aplicações de IA físicos e baseada em agentes com dezenas de milhares de GPUs, disponíveis em uma rede global de provedores de nuvem.
Para atender à demanda por IA, os NVIDIA Cloud Partners (NCPs), incluindo CoreWeave, Crusoe, Firmus, Foxconn, GMI Cloud, Lambda, Nebius, Nscale, Softbank Corp. e Yotta Data Services, oferecerão NVIDIA Blackwell e outras GPUs de arquitetura NVIDIA no mercado DGX Cloud Lepton.
Os desenvolvedores podem aproveitar a capacidade de computação da GPU em regiões específicas para computação sob demanda e de longo prazo, oferecendo suporte a requisitos operacionais estratégicos e IA soberana. Espera-se que os principais provedores de serviços em nuvem e mercados de GPU também participem do mercado DGX Cloud Lepton.
“O NVIDIA DGX Cloud Lepton conecta nossa rede de provedores globais de nuvem de GPU com desenvolvedores de IA”, disse Jensen Huang, fundador e CEO da NVIDIA. “Junto com nossos NCPs, estamos construindo uma fábrica de IA em escala planetária.”
O DGX Cloud Lepton ajuda a enfrentar o desafio crítico de proteger recursos de GPU confiáveis e de alto desempenho, unificando o acesso aos serviços de IA em nuvem e à capacidade de GPU em todo o ecossistema de computação da NVIDIA. A plataforma se integra ao stack de software NVIDIA, incluindo microsserviços NVIDIA NIM™ e Nemo™, NVIDIA Blueprints e Funções do NVIDIA Cloud, para acelerar e simplificar o desenvolvimento e a implantação de aplicações de IA.
Para provedores de nuvem, o DGX Cloud Lepton fornece software de gerenciamento que fornece diagnósticos de integridade da GPU em tempo real e automatiza a análise de causa raiz, eliminando operações manuais e reduzindo o tempo de inatividade.
Os principais benefícios da plataforma incluem:
- Maior produtividade e flexibilidade: oferece uma experiência unificada em desenvolvimento, treinamento e inferência, ajudando a aumentar a produtividade. Os desenvolvedores podem comprar capacidade de GPU diretamente dos provedores de nuvem participantes por meio do marketplace ou trazer seus próprios clusters de computação, dando-lhes maior flexibilidade e controle.
- Implantação sem atrito: permite a implantação de aplicações de IA em ambientes híbridos e multinuvem com carga operacional mínima, usando serviços integrados para cargas de trabalho de inferência, teste e treinamento.
- Agilidade e soberania: oferece aos desenvolvedores acesso rápido aos recursos de GPU em regiões específicas, permitindo a conformidade com os regulamentos de soberania de dados e atendendo aos requisitos de baixa latência para cargas de trabalho confidenciais.
- Desempenho previsível: fornece aos provedores de nuvem participantes desempenho, confiabilidade e segurança de nível empresarial, garantindo uma experiência de usuário consistente.
Um Novo Padrão para o Desempenho da Nuvem de IA
A NVIDIA também anunciou as NVIDIA Exemplar Clouds para ajudar os NCPs a melhorar a segurança, usabilidade, desempenho e resiliência, usando a experiência, hardware e software de referência e ferramentas operacionais da NVIDIA.
As NVIDIA Exemplar Clouds aproveitam o NVIDIA DGX™ Cloud Benchmarking, um conjunto abrangente de ferramentas e receitas para otimizar o desempenho da carga de trabalho em plataformas de IA e quantificar a relação entre custo e desempenho.
A Yotta Data Services é a primeira NCP na região da Ásia-Pacífico a aderir à iniciativa NVIDIA Exemplar Cloud.
Disponibilidade
Os desenvolvedores podem se inscrever para obter acesso antecipado ao NVIDIA DGX Cloud Lepton.