IA aumenta os riscos internos e revela falhas de visibilidade nas empresas
A adoção de inteligência artificial nas empresas avança, mas também cria novos desafios para as equipes de segurança. Sistemas de IA e agentes autônomos já estão envolvidos em incidentes na maioria das organizações: uma pesquisa da Trellix indica que 95% dos CISOs e profissionais equivalentes entrevistados enfrentaram ao menos uma ocorrência relacionada a essas tecnologias nos 12 meses anteriores ao levantamento.
O estudo foi realizado pela Vanson Bourne com 600 responsáveis por segurança nas Américas, Europa, Oriente Médio e Ásia-Pacífico. Entre eles, 40 profissionais atuavam no Brasil. Em média, incidentes ligados a sistemas de IA corresponderam a 28% dos episódios associados a riscos internos.
Os impactos podem ir além da exposição de informações. Segundo o relatório *Mind of the CISO: The New Insider*, o custo médio de um incidente provocado por agentes internos chega a US$ 2,4 milhões. Entre as organizações participantes, 56% relataram perda de dados, 49% sofreram interrupções operacionais e 48% enfrentaram violações de requisitos legais ou regulatórios.
A demora para identificar e conter esses casos amplia os danos. Em média, as empresas levam sete horas para detectar um incidente de risco interno e mais oito para responder. David Soto, CISO da Trellix, avalia que esse intervalo de 15 horas deixa as organizações expostas enquanto uma ameaça pode continuar evoluindo.
Um dos principais obstáculos é a falta de visibilidade sobre o uso de ferramentas de IA pelos funcionários. Para 63% dos responsáveis ouvidos, suas empresas ainda não conseguem acompanhar de maneira satisfatória como esses recursos são utilizados. Ao mesmo tempo, 99% reconhecem que precisam aprimorar o monitoramento de usuários, dispositivos e ambientes relacionados a riscos internos.
A própria definição de ameaça interna também está mudando. Agentes de IA, sistemas autônomos e identidades de máquinas passaram a fazer parte desse cenário: 78% dos entrevistados afirmam que já os consideram em suas avaliações de risco. Isso exige que os controles de segurança contemplem não apenas as ações de pessoas, mas também as permissões e atividades automatizadas realizadas em nome delas.
O desafio não se resume a impedir o uso de inteligência artificial. A tecnologia pode acelerar tarefas e apoiar as operações, mas precisa ser adotada com regras claras, supervisão e mecanismos para identificar comportamentos fora do padrão. Sem esses cuidados, uma ferramenta autorizada pode acessar informações inadequadas, executar ações não previstas ou ampliar o alcance de um erro.
Para apoiar a análise de incidentes, a Trellix apresentou o Wise for Private Cloud, uma plataforma de IA baseada em agentes voltada a centros de operações de segurança (SOC). A solução foi projetada para operar em ambientes locais, isolados fisicamente, híbridos e de nuvem privada. Também integra dados de agentes de IA e de fontes tradicionais, consultando informações e contexto nos locais em que estão armazenados, sem exigir a criação de um novo data lake.
A proposta é examinar todos os alertas, produzir conclusões que possam ser auditadas e orientar as equipes na resposta. Esse tipo de abordagem busca reduzir o trabalho manual e ajudar analistas a priorizar ocorrências relevantes, sem abrir mão da rastreabilidade das decisões. Para ser eficaz, porém, a automação precisa estar alinhada às políticas internas e permitir que os profissionais entendam por que um alerta foi classificado como ameaça.
A pesquisa aponta que 99% dos CISOs consideram a IA e a automação necessárias para administrar riscos internos nos próximos 12 a 24 meses. No mesmo período, 41% planejam priorizar investimentos em detecção e resposta a ameaças relacionadas à inteligência artificial. Os dados mostram que as empresas veem a tecnologia tanto como uma fonte de novos riscos quanto como parte da solução.
Uma estratégia consistente começa por mapear quais ferramentas de IA são utilizadas, quais dados podem acessar e que ações estão autorizadas a executar. Também é importante revisar permissões regularmente, limitar o acesso ao estritamente necessário e registrar as atividades de usuários, dispositivos e agentes automatizados. Esses controles ajudam a identificar desvios e a reconstruir o que ocorreu durante um incidente.
Treinamento e governança são igualmente importantes. Funcionários precisam saber quais informações podem inserir em ferramentas de IA e como reportar comportamentos suspeitos. Já as equipes de segurança devem estabelecer processos para avaliar novos sistemas antes de sua adoção, testar os controles e definir responsáveis por aprovar mudanças.
A velocidade da inteligência artificial pode beneficiar a defesa cibernética, desde que venha acompanhada de visibilidade e capacidade de resposta. Como observa Rodrigo Buosi, country manager da Trellix no Brasil, o desafio é aproveitar os ganhos de rapidez sem perder o controle sobre as atividades que acontecem dentro dos ambientes corporativos.