Um agente só é útil na medida do que ele sabe, e só é confiável na medida dos limites dentro dos quais ele roda.
Grandes empresas usam o NVIDIA Agent Toolkit, open source e agora ampliado com novas ferramentas, para personalizar e controlar agentes, usar os dados da própria empresa para informar respostas e ações, monitorar o que eles fazem e governar como operam.
O NVIDIA Agent Toolkit é formado por:
- O novo NVIDIA Agent Knowledge Foundation, com as bibliotecas NVIDIA CUDA-X
- Modelos abertos da NVIDIA, entre eles o Nemotron Retriever e a nova família Kumo
- NVIDIA OpenShell, o runtime seguro de agentes
- NVIDIA NemoClaw, os blueprints de agentes seguros
- Ferramentas e skills, como NeMo Relay e NeMo Compass
Para desenvolver agentes que dão conta de trabalho real e são confiáveis do desenvolvimento ao deploy, quem constrói precisa de um stack de agentes aberto, que reúna modelos, harness, runtime, dados e ferramentas.
O NVIDIA Agent Knowledge Foundation ajuda a empresa a transformar dados em inteligência corporativa que o agente consegue usar. O agente encontra a informação relevante, entende o que ela significa para o negócio e a usa para fazer previsões e ajudar as pessoas a decidir o próximo passo. Dá para usar o Agent Knowledge Foundation sem mover os dados, sem refazer os fluxos de trabalho existentes e sem mudar os controles de governança.
A base traz as bibliotecas NVIDIA CUDA-X, entre elas cuDF, cuGraph, cuML, cuOpt e cuVS, e a nova biblioteca Auto-Ontology, que traduz o dado bruto da empresa em conceitos de negócio conhecidos, como clientes, produtos e pedidos, e mapeia a relação entre eles.
Também inclui os modelos abertos NVIDIA Nemotron Retriever e Kumo Structured, ou seja, Kumo Tabular, Kumo Relational, Kumo Time Series e Kumo Forecast, que ajudam o agente a encontrar a informação relevante da empresa para responder perguntas e fazer previsões.
O OpenShell fornece a fronteira segura de runtime, dando à empresa controle sobre o que o agente pode acessar e fazer. Os blueprints do NVIDIA NemoClaw trazem designs de referência para construir agentes seguros e especializados. O blueprint mais recente do NemoClaw para otimização de agentes é um ponto de partida passo a passo para melhorar a inteligência do agente, deixando ele melhor no próprio trabalho com o tempo.
Empresas adotam o NVIDIA Agent Knowledge Foundation
O novo NVIDIA Agent Knowledge Foundation já está em uso em várias empresas.
Com a Palantir, a organização de supply chain da NVIDIA usa o Agent Knowledge Foundation via Palantir Foundry, Ontology e AIP para implantar agentes especializados, gerar inteligência acionável a partir de dados proprietários, prever resultados e otimizar a tomada de decisão.
A Databricks combina o NVIDIA Kumo Anomaly com a Databricks Genie Ontology para alimentar agentes sensíveis ao contexto.
A Snowflake permite que seus clientes usem o NVIDIA Kumo Engine e os modelos abertos Kumo Relational dentro do ambiente Snowflake Notebook, para destravar mais capacidade preditiva.
Os modelos NVIDIA Nemotron Retriever deixam a busca mais rápida e mais precisa. Usando o modelo de embedding, o Amazon OpenSearch Service melhorou a relevância com menos passos de busca e praticamente sem latência adicional. O reranker ajustado por fine-tuning da SAP ficou quase 3x mais rápido. A ServiceNow melhorou a qualidade do reranking e cortou a latência em quase um quarto. A Zoom usa os modelos Nemotron Retriever para melhorar a compreensão de documentos, a relevância de busca e a recuperação de contexto no Zoom AI Services.
Amazon Web Services (AWS), ClickHouse, Cloudera, Cohesity, Dassault Systèmes, Dell, Elastic, Exa, IBM, NetApp, Oracle, Perplexity, Starburst e VAST Data também estão entre as empresas que constroem sobre o Agent Knowledge Foundation.