Resumo da notícia:
- A NVIDIA Open Agent Safety Platform é formada pelo software de código aberto NVIDIA OpenShell e pela arquitetura de referência NVIDIA Sentry, que, em conjunto, permitem governança e controle em toda a stack: no software e nos sistemas de hardware, computação e robótica que executam agentes.
- O software OpenShell oferece um limite de segurança em tempo de execução que rastreia todas as ações e aplica políticas enquanto os agentes são executados em CPUs NVIDIA Vera. Por ser de código aberto, o OpenShell pode ser estendido para funcionar com plataformas de computação de terceiros, incluindo as da Arm e da Intel.
- O Sentry acrescenta um watchdog fora de banda, que é executado em DPUs NVIDIA BlueField-4 para monitorar o comportamento dos agentes de forma contínua. O Sentry consegue colocar em quarentena, em milissegundos, agentes que tentem sair dos limites definidos.
- Líderes do ecossistema de IA, entre eles Anthropic, Cisco, CrowdStrike, Dell Technologies, Figure, HPE, Hugging Face, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow e SpaceXAI, estão se somando à NVIDIA para reforçar a segurança da IA em todos os setores, ao longo de toda a stack de infraestrutura, software, modelos e robótica.
A NVIDIA anunciou a NVIDIA Open Agent Safety Platform, uma plataforma de software aberta e uma arquitetura de referência para fortalecer a segurança da IA, do teste do agente até a implantação, com governança e controle em toda a stack, no software e nos sistemas de hardware, computação e robótica que executam agentes.
Incidentes recentes de segurança deixaram clara a necessidade de equipar as organizações com ferramentas abertas e customizáveis, capazes de impor mais controle sobre agentes de longa duração. Em todos esses incidentes, o padrão é o mesmo: o agente contornou os controles de segurança na camada de aplicação para concluir a tarefa que havia recebido.
“O potencial extraordinário da IA para a sociedade só vai se concretizar se resolvermos o problema da segurança da IA”, afirmou Jensen Huang, fundador e CEO da NVIDIA. “À medida que seguimos descobrindo a fronteira das capacidades da IA, precisamos acelerar a descoberta na fronteira da segurança da IA. A segurança exige engenharia em toda a stack. A NVIDIA Open Agent Safety Platform reúne a indústria, pesquisadores e organizações do setor público para compartilhar boas práticas, alinhar métodos de avaliação e estimular a cooperação internacional. Em conjunto, podemos elevar o patamar da segurança da IA no mundo.”
A Open Agent Safety Platform Acrescenta Controle em Toda a Stack de Agentes
A NVIDIA Open Agent Safety Platform permite governança e controle em toda a stack: no software que executa os agentes, nas camadas de hardware e computação que sustentam o trabalho deles e nos sistemas de robótica que executam tarefas no mundo físico. As organizações podem adotar partes da NVIDIA Open Agent Safety Platform conforme as próprias necessidades.
A plataforma inclui o software de tempo de execução seguro NVIDIA OpenShell™, que define limites para agentes rodando em CPUs. À medida que os agentes assumem mais trabalho em mais sistemas, as empresas precisam de um limite aplicável fora do modelo e do harness do agente. Já amplamente disponível, o OpenShell oferece um limite seguro de tempo de execução para controlar como agentes de IA autônomos executam tarefas, em modelos abertos e fechados.
O OpenShell entrega essa proteção com overhead mínimo na NVIDIA Vera, a primeira CPU criada especificamente para IA baseada em agentes. Em conjunto, OpenShell e Vera permitem que os agentes operem com segurança enquanto concluem o trabalho o mais rápido possível. Por ser software de código aberto, o OpenShell também pode ser estendido para funcionar com plataformas de computação de terceiros, incluindo as da Arm e da Intel.
A arquitetura de referência da NVIDIA Open Agent Safety Platform traz o NVIDIA Sentry, um watchdog fora de banda que é executado em DPUs NVIDIA BlueField®-4 para monitorar de forma contínua o comportamento dos agentes. O Sentry aplica segurança no próprio silício, ou seja, se um agente de IA tentar sair do limite definido em software, o Sentry o coloca em quarentena e o interrompe em milissegundos.
Em execução em DPUs BlueField-4, o Sentry monitora a atividade dos agentes de forma contínua e aplica políticas de segurança de maneira independente, no silício. Ele combina detecção de ameaças, governança de agentes e aplicação de políticas, ambas baseadas em hardware, e proteção de acesso a dados a partir de um domínio de confiança isolado e fora de banda, que responde em tempo real e é invisível para agentes e atacantes.
O Sentry é construído sobre o software NVIDIA DOCA™, que fornece os recursos programáveis usados pelo Sentry para inspecionar requisições e respostas dos agentes, fornecer telemetria atestada, verificar a identidade do agente e aplicar políticas granulares de acesso zero trust a dados, ferramentas, interfaces de programação de aplicações e serviços.
Líderes da Indústria Reforçam a Segurança de Agentes com a NVIDIA
A Anthropic e a NVIDIA colaboraram para trazer camadas adicionais de segurança e controle à stack de agentes. O Claude Managed Agents estabelece um limite de segurança ao rodar o loop do agente em um servidor separado dos sandboxes onde o trabalho é executado. As integrações com OpenShell e BlueField permitem que as empresas apliquem controle estrito sobre o acesso dos agentes por meio desses sandboxes.
“As empresas estão entregando aos agentes de IA uma parte cada vez maior do seu trabalho mais importante, e precisam dirigir e verificar o que esses agentes fazem, especialmente em ambientes sensíveis”, afirmou Paul Smith, diretor comercial da Anthropic. “O Claude Managed Agents dá às empresas uma visão clara do que cada agente está fazendo, e a plataforma da NVIDIA acrescenta mais uma camada de governança e controle em hardware e software.”
A SpaceXAI está usando a NVIDIA Open Agent Safety Platform para os agentes de programação do Cursor e os modelos Grok.
“À medida que os clientes passam a depender mais de agentes para fazer trabalho de verdade, a segurança deve ser aplicada fora do modelo, por controles adicionais que o agente não consiga contornar”, afirmou Mike Nicolls, presidente da SpaceXAI. “Os clientes devem poder definir esses limites para o Cursor e o Grok e confiar que eles vão se manter.”
A Scale AI está trabalhando com a NVIDIA para incorporar tecnologias da NVIDIA Open Agent Safety Platform à camada de infraestrutura de agentes do Scale GenAI Portfolio.
“A Scale AI está usando a arquitetura de referência da NVIDIA Open Agent Safety Platform para construir sistemas confiáveis de IA baseada em agentes para nossos clientes corporativos e de governo que rodam aplicações de missão crítica, com isolamento, aplicação de políticas e auditabilidade embutidos desde o início”, afirmou Francis deSouza, CEO da Scale AI. “Apoiamos a segurança de agentes com limites claros, que definem o que os agentes podem fazer, e com controles que os mantêm operando dentro dessas permissões.”
A Salesforce e a NVIDIA integraram o OpenShell ao Slack, o que permite às equipes gerenciar a atividade de agentes OpenShell diretamente do Slack, visualizando atividade e eventos de auditoria e aprovando ou recusando pedidos de permissão adicional feitos pelos agentes, com mais visibilidade e supervisão humana enquanto os agentes trabalham.
A SAP está incorporando o OpenShell ao tempo de execução do Joule Studio, parte da SAP Business AI Platform, para unir supervisão de negócio e segurança de tempo de execução. A empresa também está contribuindo com trabalho de engenharia para o OpenShell e atuando com a NVIDIA para avançar padrões de interoperabilidade por meio da Open Secure AI Alliance.
Accenture, Armadin, Cadence, Cognition, CrowdStrike, Cisco, Dassault Systèmes, Deloitte, EY, Hugging Face, IBM, Irregular, Perplexity, Microsoft, SAP, Scale AI, ServiceNow, Siemens, Synopsys, OpenClaw, Palantir e Palo Alto Networks também estão entre as mais de 100 organizações que trabalham com tecnologias da NVIDIA Open Agent Safety Platform.
Líderes em robótica, como Figure, Gecko Robotics e Skild AI, também estão construindo com o OpenShell para embutir controles de segurança de agentes em sistemas autônomos que agem no mundo físico.
Citi e JPMorganChase estão entre os líderes de serviços financeiros que colaboram com a NVIDIA em tecnologias de código aberto compartilhadas de segurança de agentes.
Hitachi Energy, EPRI, NextEra Energy, Quanta Services, SPP, Schneider Electric, Siemens Energy e Worley, líderes do setor de energia, estão entre os provedores de infraestrutura crítica dos Estados Unidos que trabalham com tecnologias da NVIDIA Open Agent Safety Platform.
Líderes em software de infraestrutura, como Canonical, SUSE e Red Hat também estão integrando a NVIDIA Open Agent Safety Platform a sistemas operacionais de software de uso amplo. A Red Hat executa o OpenShell e o DOCA, ambos parte da NVIDIA Open Agent Safety Platform, no Red Hat AI Factory with NVIDIA, uma solução de IA de nível corporativo, desenvolvida em conjunto, para construir, implantar e gerenciar IA em escala em ambientes de nuvem híbrida.
Parceiros da NVIDIA como Baseten, Cisco, CoreWeave, Dell Technologies, GMI Cloud, HPE, HP Inc., Irregular, Lenovo, Microsoft, Nebius, Oracle Cloud Infrastructure, Supermicro e Together AI estão entre os que oferecem soluções de infraestrutura de IA que utilizam e oferecem suporte às tecnologias da NVIDIA Open Agent Safety Platform para ajudar clientes a executar agentes de IA com mais segurança.
Disponibilidade
O software da NVIDIA Open Agent Safety Platform, incluindo o OpenShell e as skills, está disponível na página de recursos para desenvolvedores da NVIDIA e no GitHub.
Contribuições ao ecossistema como a NVIDIA Open Agent Safety Platform apoiam a missão da Open Secure AI Alliance e também a comunidade mais ampla de segurança e proteção de IA. Iniciada pela NVIDIA ao lado de mais de 120 organizações de destaque e governada pela Linux Foundation, a Open Secure AI Alliance fortalece a segurança de agentes de IA por meio de pesquisa aberta, skills e ferramentas, além de projetos como o Shared AI Findings Exchange, ou SAFE.
Sobre a NVIDIA
A NVIDIA (NASDAQ: NVDA) é líder mundial em IA e computação acelerada.
Muitos dos produtos e recursos descritos aqui estão em diferentes estágios de desenvolvimento e serão oferecidos conforme e quando estiverem disponíveis. As declarações acima não constituem compromisso, promessa ou obrigação legal, e o desenvolvimento, o lançamento e o cronograma de qualquer recurso descrito estão sujeitos a alteração, a critério exclusivo da NVIDIA.
Versão localizada do comunicado publicado originalmente em inglês em nvidianews.nvidia.com. Em caso de divergência, prevalece a versão em inglês.