Hoje no GTC, a NVIDIA revelou uma série de atualizações para seu portfólio do DGX para impulsionar novos avanços no desenvolvimento da AI empresarial.
Os sistemas NVIDIA DGX H100 agora estão disponíveis para pedidos. Esses componentes de infraestrutura são compatíveis com as soluções de AI empresarial de pacote completo da NVIDIA.
Com 32 petaflops de desempenho e precisão FP8, o NVIDIA DGX H100 oferece um salto de eficiência para o desenvolvimento de AI empresarial. Ele oferece um custo total de propriedade 3 vezes menor e com 3,5 vezes mais eficiência energética em comparação com a geração anterior.
O novo software NVIDIA Base Command, que simplifica e acelera o desenvolvimento de AI, impulsiona todos os sistemas DGX, de nós únicos a superPODs DGX.
Também foi revelado o NVIDIA DGX BasePOD, a evolução do DGX POD, que torna as implantações empresariais de AI de data center mais simples e mais rápidas para as equipes de TI adquirirem, implantarem e gerenciarem.
Muitos dos líderes de AI do mundo estão desenvolvendo avanços tecnológicos, de veículos autônomos a assistentes de voz, usando sistemas e softwares NVIDIA DGX, e o ritmo da inovação só aumenta.
Novos Recursos do NVIDIA Base Command
O NVIDIA Base Command oferece orquestração de nível empresarial e gerenciamento de cluster, e agora conta com um pacote completo de softwares para maximizar a produtividade dos desenvolvedores de AI, a capacidade de gerenciamento de TI e o desempenho da carga de trabalho.
Os recursos de gerenciamento de workflow do Base Command agora incluem suporte para ambientes DGX SuperPOD on premise, permitindo que as empresas obtenham controle centralizado de projetos de desenvolvimento de AI com colaboração simplificada para equipes de projetos e dashboards integrados de monitoramento e relatórios.
O Base Command funciona com o pacote de softwares NVIDIA AI Enterprise, que agora está incluído em todos os sistemas DGX. O software de AI da NVIDIA permite o desenvolvimento e a implantação de AI de ponta a ponta com ferramentas de AI e ciência de dados compatíveis, frameworks otimizados e modelos pré-treinados.
Além disso, ele oferece o gerenciamento de workflows empresariais e integrações de MLOps com os provedores de software DGX-Ready Domino Data Lab, Run.ai, Weights & Biases e Rescale, membro do NVIDIA Inception. Ele também inclui bibliotecas que otimizam e aceleram a infraestrutura de computação, armazenamento e rede, além de garantirem o tempo de atividade, a segurança e a confiabilidade maximizados do sistema.
Nova Arquitetura de Referência do NVIDIA DGX BasePOD
O DGX BasePOD oferece uma arquitetura de referência para sistemas DGX que incorpora práticas recomendadas de design para integrar computação, rede, armazenamento e software.
Os clientes já estão usando o NVIDIA DGX POD para impulsionar o desenvolvimento de uma ampla variedade de aplicações empresariais. O DGX BasePOD baseia-se no sucesso do DGX POD com novas soluções do setor voltadas para as maiores oportunidades de AI, incluindo processamento de linguagem natural, área da saúde e ciências biomédicas e detecção de fraudes.
Apresentados como ofertas totalmente integradas e prontas para implantação por meio da Rede de Parceiros NVIDIA, as soluções DGX BasePOD variam de tamanho, de duas a centenas de sistemas DGX, com armazenamento de alto desempenho certificado de parceiros de tecnologia de armazenamento NVIDIA DGX, incluindo DDN, Dell, NetApp, Pure Storage, VAST Data e WEKA.
Líderes Impulsionam Avanços na AI com Sistemas DGX
Empresas do mundo todo escolhem os sistemas NVIDIA DGX para impulsionar suas cargas de trabalho de AI mais avançadas. Entre os inovadores de AI que desenvolvem recursos de AI essenciais em sistemas DGX A100:
- O laboratório de pesquisa e produtos de machine learning Adept está construindo uma equipe de AI com um grande modelo de linguagem prototipado no NVIDIA DGX Foundry e, depois, dimensionado com GPUs NVIDIA A100 e NVIDIA Megatron na Oracle Cloud Infrastructure.
- O Hyundai Motor Group está usando um DGX SuperPOD de 40 nós para explorar cargas de trabalho de AI de hiperescala.
- A empresa de telecomunicações KT está desenvolvendo um grande modelo de linguagem (LLM – Large Language Model) com cerca de 40 bilhões de parâmetros para uma variedade de aplicações em língua coreana, incluindo o alto-falante inteligente GiGA Genie, usando o framework NVIDIA NeMo Megatron, o NVIDIA DGX SuperPOD e o software NVIDIA Base Command.
- A Universidade de Wisconsin-Madison está rapidamente levando a AI para dispositivos de diagnósticos por imagens usando sistemas NVIDIA DGX com a plataforma de pesquisa Flywheel e o framework de aplicações da área da saúde NVIDIA Clara. Usando o NVIDIA Federated Learning Application Runtime Environment (NVIDIA FLARE), em colaboração com outros hospitais, a universidade está treinando com segurança modelos de AI em sistemas DGX para diagnósticos por imagens, anotação e classificação.
Saiba mais sobre as inovações em AI com a tecnologia dos sistemas NVIDIA DGX assistindo ao replay da apresentação do fundador e CEO da NVIDIA Jensen Huang no GTC. Participe da sessão do GTC “Projetando Seu Centro de Excelência de AI” com Charlie Boyle, Vice-Presidente de Sistemas DGX, NVIDIA.