A IA baseada em agentes está redefinindo o cenário de cibersegurança, introduzindo novas oportunidades que exigem repensar como proteger a IA e, ao mesmo tempo, oferecer as chaves para enfrentar esses desafios.
Ao contrário dos sistemas de IA padrão, os agentes de IA podem realizar ações autônomas, interagindo com ferramentas, ambientes, outros agentes e dados confidenciais. Isso oferece novas oportunidades para os defensores, mas também introduz novas classes de riscos. As empresas agora devem adotar uma abordagem dupla: defender-se com e contra a IA baseada em agente.
Construindo Defesa de Cibersegurança com IA Baseada em Agentes
As equipes de cibersegurança estão cada vez mais sobrecarregadas com a escassez de talentos e o crescente volume de alertas. A IA baseada em agentes oferece novas maneiras de reforçar a detecção de ameaças, a resposta e a segurança da IA e requer um pivô fundamental nas bases do ecossistema de cibersegurança.
Os sistemas de IA baseada em agentes podem perceber, raciocinar e agir de forma autônoma para resolver problemas complexos. Eles também podem servir como colaboradores inteligentes para especialistas cibernéticos para proteger ativos digitais, mitigar riscos em ambientes corporativos e aumentar a eficiência nos centros de operações de segurança. Isso libera as equipes de cibersegurança para se concentrarem em decisões de alto impacto, ajudando-as a dimensionar seus conhecimentos e, ao mesmo tempo, reduzindo potencialmente o esgotamento da equipe de trabalho.
Por exemplo, os agentes de IA podem reduzir o tempo necessário para responder a vulnerabilidades de segurança de software investigando o risco de uma nova vulnerabilidade ou exposição comum em apenas alguns segundos. Eles podem pesquisar recursos externos, avaliar ambientes e resumir e priorizar descobertas para que analistas humanos possam tomar medidas rápidas e informadas.
Organizações líderes como a Deloitte estão usando o NVIDIA AI Blueprint para análise de vulnerabilidades, NVIDIA NIM e NVIDIA Morpheus para permitir que seus clientes acelerem a aplicação de patches de software e o gerenciamento de vulnerabilidades. A AWS também colaborou com a NVIDIA para criar uma arquitetura de referência de código aberto usando este NVIDIA AI Blueprint para aplicação de patches de segurança de software em ambientes de nuvem da AWS.
Os agentes de IA também podem melhorar a triagem de alertas de segurança. A maioria dos centros de operações de segurança enfrenta um número esmagador de alertas todos os dias, e separar sinais críticos do ruído é lento, repetitivo e depende do conhecimento e da experiência institucional.
Os principais provedores de segurança estão usando o software de IA da NVIDIA para promover a IA baseada em agentes em cibersegurança, incluindo CrowdStrike e Trend Micro. O Charlotte AI Detection Triage da CrowdStrike oferece triagem de detecção 2 vezes mais rápida com 50% menos computação, reduzindo a fadiga de alertas e otimizando a eficiência do centro de operações de segurança.
Os sistemas baseados em agentes podem ajudar a acelerar todo o workflow, analisando alertas, coletando contexto de ferramentas, raciocinando sobre as causas raiz e agindo com base nas descobertas, tudo em tempo real. Eles podem até ajudar a integrar novos analistas, capturando conhecimento especializado de analistas experientes e transformando-o em ação.
As empresas podem criar agentes de triagem de alertas usando o NVIDIA AI-Q Blueprint para conectar agentes de IA a dados corporativos e o kit de ferramentas NVIDIA Agent Intelligence: uma biblioteca de código aberto que acelera o desenvolvimento de agentes de IA e otimiza os workflows.
Protegendo Aplicações de IA Baseada em Agentes
Os sistemas de IA baseada em agentes não apenas analisam as informações; eles raciocinam e agem de acordo com elas. Isso introduz novos desafios de segurança: os agentes podem acessar ferramentas, gerar saídas que acionam efeitos downstream ou interagir com dados confidenciais em tempo real. Para garantir que eles se comportem de forma segura e previsível, as empresas precisam de testes de pré-implantação e controles de tempo de execução.
O red teaming e os testes ajudam a identificar pontos fracos na forma como os agentes interpretam prompts, usam ferramentas ou lidam com entradas inesperadas antes de entrarem em produção. Isso também inclui sondar o quão bem os agentes seguem as restrições, se recuperam de falhas e resistem a ataques manipuladores ou adversários.
Garak, um grande scanner de vulnerabilidade de modelo de linguagem, permite testes automatizados de agentes baseados em LLM, simulando comportamentos contraditórios, como injeção imediata, uso indevido de ferramentas e erros de raciocínio.
As proteções de tempo de execução fornecem uma maneira de impor limites de política, limitar comportamentos inseguros e alinhar rapidamente as saídas do agente com as metas da empresa. O software NVIDIA NeMo Guardrails permite que os desenvolvedores definam, implantem e atualizem rapidamente as regras que regem o que os agentes de IA podem dizer e fazer. Essa adaptabilidade de baixo custo e baixo esforço garante uma resposta rápida e eficaz quando os problemas são detectados, mantendo o comportamento do agente consistente e seguro na produção.
Empresas líderes como Amdocs, Cerence AI e Palo Alto Networks estão aproveitando o NeMo Guardrails para oferecer experiências confiáveis aos seus clientes.
As proteções de tempo de execução ajudam a proteger dados confidenciais e ações do agente durante a execução, garantindo operações seguras e confiáveis. A Computação Confidencial da NVIDIA ajuda a proteger os dados enquanto eles estão sendo processados em tempo de execução, também conhecido como proteção de dados em uso. Isso reduz o risco de exposição durante o treinamento e inferência para modelos de IA de todos os tamanhos.
A Computação Confidencial da NVIDIA está disponível nos principais provedores de serviços em todo o mundo, incluindo Google Cloud e Microsoft Azure, com disponibilidade de outros provedores de serviços em nuvem por vir.
A base para qualquer aplicação de IA baseada em agentes é o conjunto de ferramentas de software, bibliotecas e serviços usados para construir o stack de inferência. A plataforma de software NVIDIA AI Enterprise é produzida usando um processo de ciclo de vida de software que mantém a estabilidade da interface de programação de aplicações enquanto aborda vulnerabilidades durante todo o ciclo de vida do software. Isso inclui verificações regulares de código e publicação oportuna de patches ou mitigações de segurança.
A autenticidade e a integridade dos componentes de IA na cadeia de suprimentos são essenciais para aumentar a confiança nos sistemas de IA baseada em agentes. O stack de software NVIDIA AI Enterprise inclui assinaturas de contêiner, assinatura de modelo e uma lista de materiais de software para permitir a verificação desses componentes.
Cada uma dessas tecnologias fornece camadas adicionais de segurança para proteger dados críticos e modelos valiosos em vários ambientes de implantação, desde o local até a nuvem.
Protegendo a Infraestrutura Baseada em Agentes
À medida que os sistemas de IA baseados em agentes se tornam mais autônomos e integrados aos workflows corporativos, a infraestrutura da qual eles dependem se torna uma parte crítica da equação de segurança. Seja implantada em um data center, no edge ou no chão de fábrica, a IA baseada em agentes precisa de uma infraestrutura que possa impor isolamento, visibilidade e controle por design.
Os sistemas baseados em agentes, por design, operam com autonomia significativa, permitindo que executem ações impactantes que podem ser benéficas ou potencialmente prejudiciais. Essa autonomia inerente requer a proteção de cargas de trabalho de tempo de execução, monitoramento operacional e aplicação estrita dos princípios de confiança zero para proteger esses sistemas de forma eficaz.
As DPUs NVIDIA BlueField, combinadas com o NVIDIA DOCA Argus, fornecem um framework que permite que as aplicações acessem visibilidade abrangente e em tempo real do comportamento da carga de trabalho do agente e identifiquem ameaças com precisão por meio de análise forense avançada de memória. A implantação de controles de segurança diretamente nas DPUs BlueField, em vez de CPUs de servidor, isola ainda mais as ameaças no nível da infraestrutura, reduzindo substancialmente o raio de explosão de possíveis comprometimentos e reforçando uma arquitetura abrangente de segurança em todos os lugares.
Os integradores também usam a Computação Confidencial da NVIDIA para fortalecer as bases de segurança para a infraestrutura baseada em agente. Por exemplo, o EQTYLab desenvolveu um novo sistema de certificado criptográfico que fornece a primeira governança em silício para garantir que os agentes de IA estejam em conformidade em tempo de execução. Ele foi apresentado na RSA como um top 10 RSA Innovation Sandbox destinatário.
A Computação Confidencial da NVIDIA é compatível com GPUs NVIDIA Hopper e NVIDIA Blackwell, portanto, as tecnologias de isolamento agora podem ser estendidas para a máquina virtual confidencial quando os usuários estão migrando de uma única GPU para várias GPUs.
A IA segura é fornecida pelo PCIe protegido e se baseia na Computação Confidencial da NVIDIA, permitindo que os clientes dimensionem cargas de trabalho de uma única GPU para oito GPUs. Isso permite que as empresas se adaptem às suas necessidades de IA baseada em agentes, ao mesmo tempo em que oferecem segurança da maneira mais eficiente.
Esses componentes de infraestrutura oferecem suporte a atestado local e remoto, permitindo que os clientes verifiquem a integridade da plataforma antes de implantar cargas de trabalho confidenciais.
Esses recursos de segurança são especialmente importantes em ambientes como fábricas de IA, onde os sistemas baseados em agentes estão começando a impulsionar a automação, o monitoramento e a tomada de decisões no mundo real. A Cisco é pioneira em infraestrutura de IA segura ao integrar DPUs NVIDIA BlueField, formando a base da Cisco Secure AI Factory com a NVIDIA para fornecer implantações de IA escaláveis, seguras e eficientes para empresas.
Estender a IA baseada em agentes para sistemas ciberfísicos aumenta as apostas, pois os comprometimentos podem afetar diretamente o tempo de atividade, a segurança e a integridade das operações físicas. Parceiros líderes como Armis, Check Point, CrowdStrike, Deloitte, Forescout, Nozomi Networks e World Wide Technology estão integrando as tecnologias de IA de cibersegurança full-stack da NVIDIA para ajudar os clientes a reforçar a infraestrutura crítica contra ameaças cibernéticas em setores como energia, serviços públicos e manufatura.
Construindo Confiança à Medida que a IA Atua
Hoje, todas as empresas devem garantir que seus investimentos em cibersegurança incorporem IA para proteger os workflows do futuro. Cada carga de trabalho deve ser acelerada para finalmente dar aos defensores as ferramentas para operar na velocidade da IA.
A NVIDIA está incorporando recursos de IA e segurança em bases tecnológicas para que os parceiros do ecossistema forneçam soluções de cibersegurança baseadas em IA. Esse novo ecossistema permitirá que as empresas criem sistemas seguros e escaláveis de IA baseada em agentes.