Um aumento acentuado nas implantações de IA generativa está impulsionando a inovação de negócios para empresas em todos os setores. Mas também está colocando desafios significativos para suas equipes de TI, já que a lentidão dos longos e complexos ciclos de implantação de infraestrutura os impedem de aumentar rapidamente as cargas de trabalho de IA usando seus próprios dados.
Para ajudar a superar essas barreiras, a NVIDIA introduziu um programa de validação de parceiros de armazenamento para sistemas de computação NVIDIA OVX. Os sistemas de armazenamento de alto desempenho que lideram a conclusão da validação de armazenamento NVIDIA OVX são DDN, Dell PowerScale, NetApp, Pure Storage e WEKA.
Os servidores NVIDIA OVX combinam computação de alto desempenho acelerada por GPU com acesso a armazenamento de alta velocidade e rede de baixa latência para lidar com uma variedade de cargas de trabalho complexas de IA e gráficos. Chatbots, ferramentas de resumo e pesquisa, por exemplo, exigem grandes quantidades de dados, e o armazenamento de alto desempenho é fundamental para maximizar a taxa de transferência do sistema.
Para ajudar as empresas a combinar o armazenamento certo com Servidores Certificados NVIDIA OVX, o novo programa fornece um processo padronizado para os parceiros validarem seus dispositivos de armazenamento. Eles podem usar o mesmo framework e testes necessários para validar o armazenamento para a arquitetura de referência NVIDIA DGX BasePOD.
Para obter a validação, os parceiros devem concluir um conjunto de testes da NVIDIA que medem o desempenho do armazenamento e o dimensionamento de entrada/saída em vários parâmetros que representam os requisitos exigentes de várias cargas de trabalho de IA corporativa. Isso inclui combinações de diferentes tamanhos de E/S, números variados de threads, E/S em buffer versus E/S direta, leituras aleatórias, releituras e muito mais.
Cada teste é executado várias vezes para verificar os resultados e reunir os dados necessários, que são auditados pelas equipes de engenharia da NVIDIA para determinar se o sistema de armazenamento foi aprovado.
O programa oferece orientação prescritiva para garantir o desempenho e a escalabilidade ideais de armazenamento para cargas de trabalho de IA empresarial com sistemas NVIDIA OVX. Mas o design geral permanece flexível, para que os clientes possam adaptar suas opções de sistema e armazenamento para se adequar aos ambientes de data center existentes e levar a computação acelerada para onde quer que seus dados residam.
Os casos de uso de IA generativa têm requisitos fundamentalmente diferentes das aplicações empresariais tradicionais, portanto, as equipes de IT devem considerar cuidadosamente suas opções de computação, rede, armazenamento e software para garantir alto desempenho e escalabilidade.
Os Sistemas Certificados pela NVIDIA são testados e validados para fornecer desempenho, capacidade de gerenciamento, segurança e escalabilidade de nível empresarial para cargas de trabalho de IA. Suas arquiteturas de referência flexíveis ajudam a fornecer implantações mais rápidas, eficientes e econômicas do que construir independentemente do zero.
Impulsionados por GPUs NVIDIA L40S, os servidores OVX incluem o software NVIDIA AI Enterprise com rede NVIDIA Quantum-2 InfiniBand ou NVIDIA Spectrum-X Ethernet, bem como DPUs NVIDIA BlueField-3. Eles são otimizados para cargas de trabalho de IA generativas, incluindo treinamento para LLMs menores (por exemplo, Llama 2 7B ou 70B), ajuste fino de modelos existentes e inferência com alta taxa de transferência e baixa latência.
Os Servidores Certificados NVIDIA OVX agora estão disponíveis e são enviados por fornecedores globais de sistemas, incluindo GIGABYTE, Hewlett Packard Enterprise e Lenovo. O suporte abrangente de nível empresarial para esses servidores é fornecido por cada integrador de sistemas, em colaboração com a NVIDIA.
Disponibilidade
Soluções de armazenamento validadas para servidores OVX certificados pela NVIDIA já estão disponíveis, e arquiteturas de referência serão publicadas nas próximas semanas por cada um dos fornecedores de armazenamento e sistema. Saiba mais sobre sistemas NVIDIA OVX.