IA aplicada à defesa: o que automatizar e quando manter a decisão humana
A inteligência artificial já faz parte das operações de segurança. Em centros de operações de segurança (SOC), pode ajudar a organizar alertas, cruzar dados e acelerar investigações. A questão não é simplesmente adotar ou rejeitar essa tecnologia, mas definir quais tarefas ela pode executar e quais decisões devem continuar sob responsabilidade de uma pessoa.
Analisar um alerta e bloquear uma conta administrativa não são ações equivalentes. Mesmo que um sistema de IA consiga recomendar ambas, cada uma envolve consequências diferentes. Quanto maior o impacto de uma resposta e mais difícil for desfazê-la, maior deve ser o nível de controle humano.
Comece pelas tarefas repetitivas e reversíveis
Equipes de segurança recebem um volume elevado de informações provenientes de alertas, endpoints, identidades, vulnerabilidades e ambientes em nuvem. Processar tudo manualmente é difícil, e tarefas repetitivas podem consumir um tempo que os analistas precisariam dedicar a casos complexos.
Nesse cenário, a IA pode enriquecer indicadores, resumir uma linha do tempo, agrupar alertas parecidos, buscar informações relevantes em registros e preparar uma hipótese inicial sobre um possível incidente. Também pode traduzir consultas e ajudar a relacionar eventos dispersos.
Essas atividades são bons pontos de partida porque, em geral, não autorizam o sistema a alterar diretamente o ambiente. A IA prepara informações; o analista avalia o resultado e decide como prosseguir. Se houver um erro, ele tende a ser identificável e a causar menos danos do que uma ação automática de contenção.
A recomendação não precisa executar a ação
Uma arquitetura de defesa mais segura separa a capacidade de sugerir da permissão para agir. A IA pode indicar que uma conta deveria ser bloqueada, sem possuir as credenciais ou os privilégios necessários para fazer isso por conta própria.
A recomendação pode passar por uma política determinística, por um procedimento previamente aprovado ou pela confirmação de um profissional. Essa divisão reduz o alcance de uma resposta incorreta e dificulta que uma manipulação do agente resulte diretamente em mudanças no ambiente.
A distinção importa porque sistemas automatizados podem interpretar mal o contexto, apoiar-se em dados incompletos ou ser influenciados por informações maliciosas. Uma resposta errada é menos perigosa quando existem barreiras entre a análise do modelo e a execução da ação.
Autonomia deve acompanhar o risco
Depois de validar a IA em funções de baixo impacto, a organização pode considerar aplicações mais operacionais. Ainda assim, a autonomia deve ser proporcional às consequências da decisão e à possibilidade de revertê-la.
Isolar temporariamente um endpoint pode ser aceitável quando há sinais consistentes de comprometimento e um procedimento claro para restaurar a conexão. Já excluir uma conta de serviço importante ou modificar regras de firewall em um ambiente produtivo exige uma avaliação mais rigorosa.
Uma pergunta ajuda a estabelecer esse limite: o que pode parar de funcionar se a decisão estiver errada? Também convém avaliar se a ação pode ser desfeita, quanto tempo levaria para corrigir o problema e se a medida pode apagar evidências necessárias à investigação.
A presença humana deve ter uma função real
Pedir aprovação humana para cada atividade pode parecer uma forma de reduzir o risco, mas nem sempre produz uma supervisão efetiva. Se os analistas recebem dezenas de solicitações rotineiras, podem passar a aprová-las rapidamente, sem examinar o contexto. A revisão se transforma em um clique, não em uma decisão.
A participação humana é especialmente importante quando uma ação pode interromper serviços críticos, ampliar ou retirar privilégios em larga escala, afetar clientes, envolver comunicação externa ou trazer consequências legais. Nessas situações, experiência, contexto e julgamento continuam sendo essenciais.
Em contrapartida, tarefas bem delimitadas e de baixo risco podem ser automatizadas aos poucos, desde que existam limites de atuação, monitoramento e mecanismos para interromper o processo.
Registre como a decisão foi tomada
Saber que uma ação foi concluída não basta para entender se ela foi apropriada. Para investigar um bloqueio ou explicar um falso positivo, a equipe precisa reconstruir a cadeia da decisão: quais evidências estavam disponíveis, qual versão do modelo foi utilizada e que política autorizou a resposta.
O registro também deve deixar claro se a IA apenas apresentou uma recomendação ou se executou uma medida. Essa diferença é importante para auditorias, investigações posteriores e apuração de responsabilidades.
A discussão sobre defesa cibernética com IA, inclusive em iniciativas de referência do NIST, envolve capacidades como detecção, correlação, monitoramento, análise de malware e resposta. Porém, ter capacidade técnica não responde, por si só, à questão de quem é responsável quando o sistema deixa passar uma ameaça ou recomenda uma ação que agrava o incidente. Essa responsabilidade precisa ser definida antes de ampliar a autonomia.
Métricas devem considerar o custo do erro
A precisão de um modelo não pode ser avaliada isoladamente. Um falso positivo durante a triagem pode gerar trabalho adicional para o analista. O mesmo erro, se levar ao bloqueio automático de um usuário ou à interrupção de um serviço, pode causar um impacto operacional muito maior.
Por isso, as métricas precisam ser relacionadas ao tipo de tarefa e às consequências de cada falha. Além da qualidade das classificações, vale acompanhar o número de ações revertidas, o tempo economizado, os incidentes não identificados e os efeitos das respostas automatizadas sobre a operação.
É igualmente importante observar casos em que o modelo demonstra incerteza ou recebe dados insuficientes. Nessas circunstâncias, o sistema deve poder interromper a automação e encaminhar o caso para revisão, em vez de preencher lacunas com uma decisão aparentemente segura.
Teste antes de conceder mais autonomia
Uma maneira prudente de começar é usar a IA para recomendar ações sem executá-las. A equipe pode comparar as sugestões do sistema com as decisões dos analistas e verificar em que situações há concordância, divergência ou falta de contexto.
Também é útil testar o comportamento em cenários simulados e observar como o modelo reage a dados incompletos, alertas contraditórios e tentativas de manipulação. Esses testes ajudam a identificar falhas antes que o sistema tenha acesso a ações com impacto real.
A autonomia pode ser ampliada gradualmente, por função e por tipo de incidente. Não é necessário conceder ao mesmo agente permissão para investigar, decidir e alterar todos os componentes do ambiente.
Planeje uma operação sem a IA
A automação também pode criar dependência. Se a plataforma ficar indisponível ou o modelo mudar de comportamento, a equipe precisa continuar capaz de responder a incidentes. Procedimentos críticos devem contar com alternativas manuais ou mecanismos independentes.
É recomendável definir quem pode suspender uma automação, como restaurar uma mudança e quais ações exigem uma rota alternativa. Ter esses planos não reduz a utilidade da IA; evita que uma ferramenta de apoio se torne um ponto único de falha.
Uma implantação responsável começa, portanto, com tarefas repetitivas, delimitadas e reversíveis. À medida que a organização comprova a confiabilidade dos resultados, pode avançar com controles proporcionais ao risco. A IA deve acelerar a defesa sem receber, automaticamente, autoridade para tomar decisões capazes de comprometer serviços, evidências ou a operação da empresa.