A NVIDIA revelou no início de janeiro o NVIDIA® Project DIGITS, um supercomputador pessoal de IA que fornece aos pesquisadores de IA, cientistas de dados e estudantes em todo o mundo acesso ao poder da plataforma NVIDIA Grace Blackwell.
O Project DIGITS apresenta o novo NVIDIA GB10 Grace Blackwell Superchip, oferecendo um petaflop de desempenho de computação de IA para prototipagem, ajuste fino e execução de grandes modelos de IA.
Com o Project DIGITS, os usuários podem desenvolver e executar inferências em modelos usando seu próprio sistema de desktop e, em seguida, implantar perfeitamente os modelos em nuvem acelerada ou infraestrutura de data center.
“A IA será mainstream em todas as aplicações para todos os setores. Com o Project DIGITS, o Superchip Grace Blackwell chega a milhões de desenvolvedores”, disse Jensen Huang, fundador e CEO da NVIDIA. “Colocar um supercomputador de IA nas mesas de cada cientista de dados, pesquisador e estudante de IA os capacita a se envolver e moldar a era da IA.”
Superchip GB10 Fornece Um Petaflop de Desempenho de IA com Eficiência Energética
O Superchip GB10 é um system-on-a-chip (SoC) baseado na arquitetura NVIDIA Grace Blackwell e oferece até 1 petaflop de desempenho de IA com precisão FP4.
GB10 apresenta uma GPU NVIDIA Blackwell com núcleos CUDA® de última geração e Núcleos Tensor de quinta geração, conectado via interconexão NVLink®-C2C chip a chip a uma CPU NVIDIA Grace™ de alto desempenho, que inclui 20 núcleos com baixo consumo de energia construídos com a arquitetura Arm. A MediaTek, líder de mercado em projetos de SoC baseados em Arm, colaborou no design do GB10, contribuindo para sua melhor eficiência de energia, desempenho e conectividade da categoria.
O Superchip GB10 permite que o Project DIGITS ofereça um desempenho poderoso usando apenas uma tomada elétrica padrão. Cada Project DIGITS possui 128GB de memória unificada e coerente e até 4TB de armazenamento NVMe. Com o supercomputador, os desenvolvedores podem executar grandes modelos de linguagem de até 200 bilhões de parâmetros para turbinar a inovação da IA. Além disso, usando a rede NVIDIA ConnectX®, dois supercomputadores do Project DIGITS AI podem ser vinculados para executar modelos de até 405 bilhões de parâmetros.
Supercomputação de IA Grace Blackwell Ao Seu Alcance
Com a arquitetura Grace Blackwell, empresas e pesquisadores podem prototipar, ajustar e testar modelos em sistemas locais do Project DIGITS executando o sistema operacional NVIDIA DGX baseado em Linux e, em seguida, implantá-los perfeitamente no NVIDIA DGX Cloud™, instâncias de nuvem aceleradas ou infraestrutura de data center.
Isso permite que os desenvolvedores criem protótipos de IA no Project DIGITS e, em seguida, dimensionem na infraestrutura de nuvem ou data center, usando a mesma arquitetura Grace Blackwell e a plataforma de software NVIDIA AI Enterprise.
Os usuários do Project DIGITS podem acessar uma extensa biblioteca de software de IA da NVIDIA para experimentação e prototipagem, incluindo kits de desenvolvimento de software, ferramentas de orquestração, frameworks e modelos disponíveis no catálogo NVIDIA NGC e no portal NVIDIA Developer. Os desenvolvedores podem ajustar modelos com o framework NVIDIA NeMo™, acelerar a ciência de dados com bibliotecas NVIDIA RAPIDS™ e executar frameworks comuns, como notebooks PyTorch, Python e Jupyter.
Para criar aplicações de agentes de IA, os usuários também podem aproveitar os microsserviços NVIDIA Blueprints e NVIDIA NIM™, que estão disponíveis para pesquisa, desenvolvimento e teste por meio do Programa de Desenvolvedor NVIDIA. Quando as aplicações de IA estão prontas para passar de ambientes de experimentação para ambientes de produção, a licença NVIDIA AI Enterprise fornece segurança, suporte e lançamentos de produtos de nível empresarial do software NVIDIA AI.
Disponibilidade
O Project DIGITS estará disponível em maio na NVIDIA e nos principais parceiros, a partir de US$ 3.000. Inscreva-se para receber notificações hoje mesmo.