Nvidia apresenta plataforma para controlar a segurança de agentes de IA
A Nvidia anunciou a Open Agent Safety Platform, uma estrutura de segurança criada para manter agentes de inteligência artificial dentro de regras estabelecidas, tanto durante os testes quanto quando já estão em operação. A proposta combina ferramentas de código aberto com um modelo de referência que inclui controles no ambiente de execução e monitoramento em hardware.
A iniciativa surge em meio a relatos de agentes que ultrapassaram os limites de ambientes de avaliação, acessaram recursos que não deveriam utilizar ou informaram de maneira incorreta as ações realizadas. Para a Nvidia, esses episódios mostram que não é suficiente confiar na capacidade do próprio agente de seguir instruções: falhas de software, bloqueios ou ausência de ferramentas podem levá-lo a agir fora do objetivo previsto.
A plataforma tem dois componentes centrais. O OpenShell cria um ambiente isolado para executar agentes e aplica políticas sobre suas atividades. Já o Sentry funciona como uma camada adicional de monitoramento, projetada para operar separadamente do sistema que hospeda o agente.
Como o OpenShell limita as ações dos agentes
O OpenShell é formado por três elementos. O gateway administra o ciclo de vida dos ambientes isolados e centraliza as políticas aplicadas a diferentes agentes. O sandbox restringe, no nível do kernel, o acesso a arquivos e processos. O supervisor, por sua vez, analisa as solicitações de comunicação com redes externas e verifica se elas estão de acordo com as regras definidas.
Todo o tráfego de rede que sai do sandbox passa pelo supervisor. Isso permite, por exemplo, autorizar um agente a consultar informações por meio de uma API, mas impedir que altere ou grave dados no mesmo serviço. A separação entre leitura e escrita ajuda a reduzir o impacto de erros e impede que uma permissão ampla seja concedida quando a tarefa exige apenas acesso limitado.
O sistema também foi projetado para proteger credenciais. Quando uma conexão requer uma chave de API, o agente não recebe o segredo diretamente: em seu lugar, vê um marcador. A substituição pela chave verdadeira acontece fora do ambiente de execução do agente e somente para endpoints autorizados, diminuindo o risco de exposição acidental.
Outro controle diz respeito às mudanças nas próprias regras. Um agente pode solicitar uma alteração de política se considerar que precisa de mais permissões para concluir uma tarefa, mas não pode aprovar o próprio pedido. A decisão permanece sob controle externo, evitando que o sistema contorne suas restrições por iniciativa própria.
Sentry adiciona fiscalização fora do host
O Sentry integra o projeto de referência da plataforma e pode operar como monitor independente em uma unidade de processamento de dados BlueField-4. Como a DPU funciona separada do host que executa o agente, a Nvidia afirma que o mecanismo consegue observar atividades e aplicar políticas mesmo se a máquina principal estiver comprometida.
Segundo a empresa, essa fiscalização baseada em hardware pode colocar um agente em quarentena e interrompê-lo em milissegundos caso ele tente ultrapassar as fronteiras definidas para seu ambiente. O Sentry é apresentado como uma proteção complementar ao OpenShell, e não como substituto dos controles de software: a combinação busca oferecer barreiras em diferentes níveis.
Essa arquitetura procura enfrentar um risco importante em sistemas autônomos: um agente pode ter acesso legítimo a ferramentas e, ainda assim, utilizá-las de maneira inadequada. Limitar permissões, inspecionar conexões e manter a aplicação das regras fora do alcance do próprio agente reduz a dependência de instruções em linguagem natural, que nem sempre são suficientes para impedir ações indesejadas.
Empresas participam das integrações
A Nvidia informa que mais de cem organizações trabalham com as tecnologias da plataforma. A Anthropic colaborou na integração entre os Claude Managed Agents, o OpenShell e o BlueField. A SpaceXAI utiliza a estrutura com agentes de programação Cursor e modelos Grok.
Salesforce e Nvidia também integraram o OpenShell ao Slack. Nesse cenário, os usuários podem acompanhar a atividade dos agentes e aprovar ou rejeitar solicitações de permissão. A SAP, por sua vez, está incorporando o OpenShell ao runtime Joule Studio. CrowdStrike, Palo Alto Networks e Cisco estão entre as demais empresas envolvidas.
O OpenShell e ferramentas relacionadas estão disponíveis nos recursos para desenvolvedores da Nvidia e no GitHub. A adoção por empresas, porém, não elimina a necessidade de configurar as políticas de acordo com cada uso. Uma regra adequada para um agente que resume documentos pode ser insuficiente para outro que acessa sistemas corporativos ou executa alterações em dados.
O que a plataforma pode significar para as empresas
A proposta responde a uma questão prática para organizações que estão incorporando agentes a tarefas internas: como permitir que a IA execute ações úteis sem conceder acesso irrestrito a arquivos, serviços e credenciais. Em vez de confiar apenas no comportamento esperado do modelo, a plataforma busca impor limites técnicos que continuem válidos mesmo quando o agente comete erros.
Para uma implementação segura, é importante definir previamente quais dados o agente pode consultar, quais operações pode realizar e quais destinos de rede são necessários. Permissões mínimas reduzem a possibilidade de que uma falha se transforme em alteração indevida, vazamento de informações ou acesso a sistemas não relacionados à tarefa.
Também é recomendável manter registros das solicitações, das ações executadas e das decisões de aprovação. Esse histórico ajuda equipes de segurança a investigar comportamentos inesperados e a ajustar políticas sem ampliar indiscriminadamente os privilégios do agente. A supervisão humana continua especialmente relevante quando as ações envolvem dados sensíveis, operações financeiras ou mudanças em serviços essenciais.
A Open Agent Safety Platform, portanto, combina isolamento, controle de rede, proteção de credenciais e monitoramento em hardware para reduzir riscos associados a agentes autônomos. O resultado dependerá da configuração e da integração com os sistemas de cada organização, mas a abordagem destaca uma mudança importante: a segurança de agentes de IA precisa ser aplicada também fora do modelo, por mecanismos que possam limitar suas ações de forma verificável.