O pior da malícia de IA ainda está por vir
A inteligência artificial já começou a ser incorporada ao desenvolvimento de códigos maliciosos, mas a maior parte das ameaças identificadas até agora ainda está em fase experimental. Um levantamento da Unit 42, divisão de inteligência contra ameaças da Palo Alto Networks, analisou 405 amostras de malware relacionadas ao uso de IA e constatou que apenas 12 foram observadas em infecções reais.
Isso significa que aproximadamente 97% dos exemplares examinados permaneceram restritos a ambientes de teste, plataformas de análise e repositórios especializados, sem evidências de que tenham chegado a redes corporativas em escala. Ainda assim, o estudo alerta que esse cenário pode mudar rapidamente à medida que criminosos aperfeiçoem suas ferramentas e aprendam a integrar modelos de IA a operações maliciosas mais maduras.
A análise considerou diferentes formas de utilização da inteligência artificial. Entre elas estão códigos escritos ou modificados com auxílio de grandes modelos de linguagem, campanhas que exploram marcas e serviços relacionados à IA e estruturas capazes de executar ações de maneira mais autônoma, em ciclos semelhantes aos chamados agentes inteligentes.
Por que a maioria das amostras ainda é experimental
As amostras que não foram encontradas em ambientes reais foram classificadas principalmente em três grupos. O primeiro reúne provas de conceito, pesquisas acadêmicas e experimentos técnicos. O segundo inclui arquivos enviados a serviços de análise para validação, testes defensivos ou verificação de segurança. O terceiro é formado por arquivos que apenas utilizam nomes, logotipos e temas associados à inteligência artificial para parecerem mais legítimos ou atrair vítimas.
Os pesquisadores identificaram alguns sinais que ajudam a diferenciar esses experimentos de ameaças operacionais. Muitos arquivos apresentavam configurações direcionadas a endereços locais, algo comum em laboratórios, mas pouco provável em campanhas conduzidas por criminosos. Também foram encontrados registros de depuração excessivamente detalhados, que poderiam revelar informações internas da operação e dificilmente seriam mantidos ativos por um atacante experiente.
Outro indicador foi o histórico de envio das amostras. Em diversos casos, os arquivos haviam sido submetidos apenas uma vez e por organizações de pesquisa ou instituições acadêmicas. Esse padrão sugere que o material estava sendo avaliado, e não distribuído em uma campanha ampla.
As ameaças que chegaram a endpoints reais
Das 12 amostras identificadas em dispositivos protegidos pelo Cortex XDR, distribuídos por organizações de três países, cinco famílias de malware se destacaram. A lista inclui o ransomware FunkSec, um aplicativo trojanizado disfarçado de ferramenta para receitas, o backdoor Oyster – também conhecido como CleanBoost -, o ladrão de informações Rhadamanthys e uma DLL capaz de sequestrar objetos COM.
O FunkSec foi apontado como o exemplo com sinais mais fortes de desenvolvimento auxiliado por IA. Os pesquisadores encontraram sete variantes diferentes compiladas em apenas seis dias. Os caminhos PDB associados aos arquivos indicam alterações rápidas sobre uma base de código semelhante, uma característica compatível com ciclos acelerados de desenvolvimento.
Apesar da presença de recursos associados à IA, as amostras detectadas não demonstraram capacidade inédita de escapar dos mecanismos tradicionais de proteção. Todas as tentativas de alcançar ambientes de clientes foram identificadas e bloqueadas pelas soluções da Palo Alto Networks.
A IA muda o desenvolvimento, não necessariamente a execução
Uma das principais conclusões do levantamento é que a inteligência artificial pode alterar a forma como o malware é produzido, mas não necessariamente transforma a maneira como ele funciona depois de instalado. Em outras palavras, um código criado ou aprimorado por um modelo de linguagem ainda precisa executar ações observáveis: criar arquivos, modificar processos, estabelecer conexões, acessar credenciais ou tentar manter persistência no sistema.
Esses comportamentos continuam sendo analisados por tecnologias como detecção comportamental, sandbox em nuvem e ferramentas de proteção de endpoints. Por isso, o uso de IA na etapa de programação não torna automaticamente o malware invisível.
A situação, porém, não deve ser interpretada como motivo para complacência. A tecnologia pode reduzir o tempo necessário para criar variantes, adaptar códigos a diferentes sistemas e produzir campanhas em maior escala. Mesmo quando o resultado não é tecnicamente inovador, a capacidade de gerar muitas versões pode aumentar a probabilidade de uma delas passar por filtros convencionais.
O risco de uma evolução gradual
O perigo mais relevante pode não estar nas amostras atuais, mas na combinação entre automação, volume e especialização. Um criminoso sem grande experiência pode utilizar modelos de IA para corrigir erros de programação, interpretar mensagens de falha, adaptar scripts e traduzir instruções para diferentes plataformas.
Também é possível empregar a tecnologia na criação de mensagens fraudulentas mais convincentes, na personalização de ataques e na análise de dados roubados. Esse uso não exige um malware revolucionário. Basta melhorar cada etapa da operação para reduzir o tempo entre a invasão inicial e o comprometimento dos sistemas.
Com a evolução dos chamados agentes autônomos, grupos criminosos poderão tentar automatizar tarefas como reconhecimento de rede, seleção de alvos, coleta de informações e escolha de comandos. Esses mecanismos ainda enfrentam limitações, mas representam uma direção importante para a segurança digital.
Como as empresas devem se preparar
As organizações não devem esperar que o malware criado com IA apresente uma assinatura específica. A proteção precisa continuar baseada na identificação de comportamentos suspeitos, no controle de privilégios, na segmentação da rede e no monitoramento de atividades incomuns.
É fundamental manter sistemas operacionais, aplicações e ferramentas de segurança atualizados. Contas administrativas devem ser reduzidas ao mínimo necessário, enquanto autenticação multifator e políticas de acesso condicional precisam ser aplicadas aos serviços críticos.
O treinamento dos funcionários também permanece essencial. Ataques com auxílio de IA podem produzir mensagens mais naturais, personalizadas e livres de erros evidentes. Por isso, a avaliação de solicitações urgentes, arquivos inesperados e pedidos de credenciais deve fazer parte da rotina corporativa.
Monitoramento e resposta continuam decisivos
A detecção precoce depende de registros completos e centralizados. Eventos relacionados a login, execução de processos, criação de tarefas agendadas, alterações no registro, conexões externas e movimentação lateral devem ser acompanhados por equipes de segurança ou serviços especializados.
Planos de resposta a incidentes precisam ser testados antes de uma emergência. Saber quais sistemas devem ser isolados, quais credenciais precisam ser revogadas e como preservar evidências pode reduzir significativamente os danos causados por um ataque.
Também é importante revisar regularmente os fornecedores que utilizam recursos de inteligência artificial. Aplicações com acesso a dados internos, códigos, documentos ou sistemas operacionais devem seguir regras claras de governança, para evitar que informações confidenciais sejam expostas ou usadas de maneira indevida.
O cenário atual mostra que o malware associado à IA já é uma realidade, embora ainda esteja em estágio inicial. As defesas existentes continuam capazes de identificar e bloquear essas ameaças, mas a velocidade de desenvolvimento proporcionada pela tecnologia pode mudar esse equilíbrio. O maior desafio será acompanhar a transformação antes que os experimentos se convertam em campanhas criminosas amplas, automatizadas e mais difíceis de interromper.