65% das empresas brasileiras já utilizam agentes de IA em suas operações diárias, de acordo com novo estudo da KnowBe4. O levantamento mostra que o mercado nacional saiu da fase de testes e provas de conceito: a inteligência artificial agêntica – aquela capaz de agir de forma autônoma, tomar decisões e executar tarefas sem supervisão constante – já está integrada aos fluxos de trabalho de forma ampla e acelerada.
Ao mesmo tempo, o estudo acende um alerta importante: a adoção de IA avançada está ampliando a superfície de ataque corporativa em um ritmo mais rápido do que as equipes de segurança conseguem acompanhar. Em outras palavras, as empresas estão colocando agentes de IA para trabalhar antes de terem políticas, controles e processos maduros para protegê-los – e para proteger os dados que esses sistemas manipulam.
IA agêntica: de experimento à rotina corporativa
Segundo o relatório “From Agentic Risk to Human Wins: Building a Culture of Security in the Era of Agentic AI”, as organizações brasileiras já não tratam a IA como um recurso experimental. Ferramentas de automação baseadas em IA e agentes autônomos passaram a assumir tarefas antes executadas por pessoas: respostas a clientes, geração de relatórios, apoio a decisões, análise de dados, triagem de chamados, entre muitas outras.
O dado de que 65% das empresas entrevistadas utilizam agentes autônomos mostra que a IA agêntica atravessou o limite do “piloto” e foi incorporada ao dia a dia. Esses agentes podem, por exemplo, buscar informações em múltiplos sistemas, combinar dados sensíveis, executar ações em nome de usuários e até interagir com outros sistemas críticos da organização. Isso eleva significativamente o potencial de impacto em caso de falhas de segurança, erro de configuração ou abuso mal-intencionado.
Shadow AI: a camada invisível de automação
Um dos pontos mais preocupantes revelados pelo estudo é a ausência de governança sobre esse ecossistema de IA. Aproximadamente 60% dos líderes entrevistados admitem que o uso de IA em seus ambientes é totalmente não aprovado, ou não está coberto por uma política de governança formal. Esse fenômeno é conhecido como shadow AI: o uso de ferramentas e agentes de IA fora do controle oficial da área de TI ou de Segurança.
Na prática, isso significa que colaboradores instalam, contratam ou utilizam agentes de IA por conta própria – muitas vezes em versões gratuitas ou em serviços externos – para agilizar tarefas. Esses agentes passam a manipular dados internos, arquivos sensíveis, informações de clientes e processos estratégicos sem qualquer visibilidade por parte da organização. É como se uma “equipe paralela” de trabalhadores digitais estivesse operando nos bastidores, sem contratos, sem supervisão e sem regras claras.
Essa “camada invisível” aumenta drasticamente o risco de vazamento de dados, uso indevido de informações confidenciais, exposição de segredos de negócio e até de manipulação de resultados por modelos comprometidos. Além disso, ferramentas de IA externas podem registrar, armazenar e reutilizar informações inseridas pelos usuários, muitas vezes em desacordo com as políticas de privacidade da própria empresa.
Um cenário de cibersegurança mais volátil
De acordo com Perry Carpenter, Chief Deception Strategist da KnowBe4, a cibersegurança entrou em uma fase particularmente volátil. As empresas agora precisam proteger não apenas pessoas, mas também sistemas de IA que passaram a atuar como “colegas de trabalho” digitais dos colaboradores.
Enquanto os times de segurança tentam adaptar seus processos, os cibercriminosos já estão utilizando a mesma IA para escalar ataques. Eles exploram canais diversos – SMS, aplicativos de colaboração corporativa, e-mails, redes sociais e portais internos – para realizar campanhas de phishing altamente personalizadas, criar deepfakes convincentes e desenvolver fraudes difíceis de detectar.
Com a presença crescente de agentes de IA, surgem ainda novas táticas de ataque, como a manipulação de prompts e comandos para assumir o controle desses agentes. Um atacante que consiga influenciar ou comprometer um agente de IA pode, potencialmente, executar ações em sistemas internos, alterar decisões automatizadas ou desviar dados sensíveis, tudo com aparência de atividade legítima.
Nesse contexto, deixar mais da metade do uso de IA dentro da empresa sem qualquer governança torna-se um convite aberto para ataques sofisticados. Não se trata apenas de vulnerabilidades técnicas, mas de um conjunto de riscos que combinam comportamento humano, modelos de IA, processos de negócio e infraestrutura digital.
Principais riscos trazidos pelos agentes de IA
A pesquisa destaca uma série de riscos emergentes associados ao uso de agentes autônomos de IA:
1. Exposição de dados sensíveis
Agentes sem restrições claras podem acessar bancos de dados internos, documentos confidenciais e informações de clientes, e em seguida enviar consultas ou resultados para serviços externos.
2. Decisões automatizadas sem supervisão
Sistemas que tomam decisões de forma autônoma podem cometer erros graves – por exemplo, aprovar transações, liberar acessos ou alterar cadastros – sem que exista uma camada robusta de validação humana.
3. Escalonamento de ataques internos
Caso credenciais sejam comprometidas, um atacante pode usar a capacidade dos agentes de IA para se mover lateralmente na rede, acessar novos sistemas ou automatizar ações maliciosas em grande escala.
4. Manipulação de comportamento de agentes
Técnicas de prompt injection e outros tipos de manipulação permitem que criminosos forcem agentes de IA a ignorar políticas internas, revelar dados ou executar tarefas indevidas.
5. Perda de rastreabilidade
Quando agentes de IA tomam decisões e executam ações sem registros adequados, torna-se difícil reconstruir incidentes e identificar a origem de um problema de segurança ou de compliance.
Como construir uma governança de IA eficaz
O relatório ressalta que não basta bloquear ou restringir totalmente o uso da IA. As empresas que tentam proibir o acesso tendem a incentivar ainda mais o surgimento de shadow AI, pois os colaboradores buscam alternativas por conta própria para ganhar produtividade.
Uma abordagem mais efetiva passa por:
– Inventário e visibilidade: mapear todas as ferramentas de IA usadas formal e informalmente, incluindo agentes autônomos, conectores e integrações com sistemas internos.
– Políticas claras de uso: definir o que pode e o que não pode ser feito com IA, quais dados podem ser utilizados, quais ambientes são autorizados e quais são os limites de autonomia dos agentes.
– Gestão de acesso e dados: aplicar princípios de mínimo privilégio aos agentes de IA, restringindo os dados e sistemas que eles podem consultar e modificar.
– Monitoramento contínuo: implementar logs detalhados, trilhas de auditoria e alertas específicos para atividades incomuns ou potencialmente perigosas executadas por agentes de IA.
– Avaliação de risco por caso de uso: analisar criticamente cada automação baseada em IA, considerando impacto sobre privacidade, compliance, integridade de dados e continuidade de negócio.
Cultura de segurança: pessoas e IA no mesmo ecossistema
Um dos pontos centrais do relatório “From Agentic Risk to Human Wins” é a necessidade de mudar o foco de simplesmente rastrear erros para construir uma cultura que reforça comportamentos positivos. Em vez de tratar segurança como um conjunto de punições ou obrigações, a organização precisa incorporar a proteção de dados e sistemas como parte natural do trabalho – tanto para colaboradores quanto para o uso de IA.
Isso significa treinar equipes para entender riscos específicos de IA, ensinar boas práticas de uso (como não inserir dados sensíveis em serviços não aprovados), fomentar o reporte de incidentes e dúvidas sem medo de represálias, e integrar a segurança desde o desenho de novos projetos de automação. Além disso, as políticas precisam ser traduzidas em linguagem simples e conectadas ao dia a dia de cada área de negócio.
A visão proposta pelo estudo é que a IA e os humanos podem trabalhar juntos de forma segura e produtiva, desde que a organização crie um ambiente que valorize escolhas seguras, projetos bem desenhados e monitoramento contínuo – em vez de apenas reagir a falhas depois que elas acontecem.
O papel estratégico da liderança de segurança
Para que esse cenário de equilíbrio se torne realidade, a área de Segurança da Informação precisa atuar de forma mais estratégica e colaborativa. Em vez de ser vista como um “freio” à inovação, a segurança deve participar das decisões sobre adoção de IA desde o início, ajudando a desenhar soluções que sejam ao mesmo tempo eficientes e protegidas.
Isso inclui dialogar com as áreas de TI, negócio, jurídico, recursos humanos e compliance, buscando alinhar requisitos de proteção com metas de produtividade e inovação. A liderança de segurança deve também acompanhar de perto a evolução de ameaças baseadas em IA – como deepfakes cada vez mais realistas, ataques automatizados, fraudes de identidade e manipulação de modelos.
Outro ponto essencial é revisar periodicamente o modelo de governança à medida que novas ferramentas de IA surgem, já que o ritmo de lançamento de tecnologias é muito superior ao dos ciclos tradicionais de revisão de políticas.
Boas práticas iniciais para empresas brasileiras
Para organizações que estão começando a estruturar sua governança de IA – ou que já utilizam agentes autônomos, mas ainda sem um controle robusto -, alguns passos práticos podem acelerar a maturidade:
1. Criar um comitê de IA com participação multidisciplinar (TI, Segurança, Jurídico, Negócios) para definir diretrizes e priorizar iniciativas.
2. Classificar dados e processos mais sensíveis, determinando desde já quais nunca poderão ser tratados por serviços de IA externos.
3. Estabelecer um catálogo de ferramentas aprovadas de IA, com critérios de segurança mínimos, e comunicar isso amplamente aos colaboradores.
4. Oferecer alternativas seguras (como ambientes internos ou soluções contratadas oficialmente) para reduzir a tentação de buscar serviços não aprovados.
5. Implantar treinamentos específicos sobre riscos de IA, engenharia social aprimorada por IA e reconhecimento de deepfakes.
6. Incluir IA em planos de resposta a incidentes, prevendo cenários em que agentes autônomos possam ter sido manipulados ou comprometidos.
Tendências futuras: IA mais poderosa, riscos mais complexos
À medida que os modelos de IA se tornam mais sofisticados, os agentes autônomos tendem a assumir funções ainda mais críticas – desde a triagem de decisões financeiras até a administração de infraestruturas complexas. Isso pode trazer ganhos expressivos de eficiência, mas também exige um patamar mais alto de responsabilidade e controle.
No horizonte, é provável que vejamos regulações mais rígidas sobre o uso de IA, exigindo transparência, impacto regulatório, mecanismos de explicabilidade e limites claros para a autonomia dos sistemas. As empresas que se anteciparem a esse movimento, construindo desde já estruturas sólidas de governança, sairão na frente na hora de se adaptar a exigências legais e de mercado.
Ao mesmo tempo, criminosos continuarão explorando a capacidade de IA para automatizar ataques, criar conteúdos falsos convincentes e identificar brechas com rapidez. Isso torna indispensável uma abordagem de segurança que seja tão ágil quanto a evolução da própria tecnologia.
Conclusão: da adoção acelerada à segurança sustentável
O fato de que 65% das empresas brasileiras já utilizam agentes de IA mostra um avanço expressivo na transformação digital do país. Porém, o dado de que 60% desse uso ocorre sem aprovação formal ou governança adequada revela uma lacuna perigosa entre inovação e segurança.
Reduzir esse descompasso passa por enxergar a IA agêntica não apenas como uma ferramenta de produtividade, mas como um novo ator dentro do ecossistema corporativo – sujeito a regras, controles, monitoramento e responsabilidades, assim como qualquer colaborador. Ao projetar sistemas que incentivem comportamentos seguros, reforcem ações positivas e integrem pessoas e IA sob a mesma cultura de segurança, as organizações aumentam significativamente suas chances de transformar riscos em resultados concretos e sustentáveis.