IA nas empresas: os riscos de segurança e privacidade que crescem junto com a adoção
A inteligência artificial já está integrada à rotina de muitas empresas. Funcionários recorrem a assistentes generativos para redigir textos, revisar contratos, resumir reuniões, interpretar documentos, desenvolver software e analisar dados. Ao mesmo tempo, sistemas corporativos incorporam recursos de IA, enquanto agentes autônomos começam a receber permissões para consultar bases internas, executar tarefas e interagir com aplicações críticas.
Essa evolução oferece ganhos expressivos de produtividade, mas também amplia a superfície de ataque. O desafio deixou de ser apenas escolher uma ferramenta ou autorizar seu uso. Agora, as organizações precisam saber quais soluções estão ativas, que informações são enviadas a elas, onde os dados ficam armazenados, quem pode acessá-los e quais ações a IA está autorizada a executar.
Quando essas respostas não estão disponíveis, a inovação passa a avançar mais rapidamente do que a governança, a segurança e a privacidade.
Shadow AI: a inteligência artificial fora do controle da empresa
O fenômeno conhecido como Shadow AI é semelhante à Shadow IT. Um funcionário identifica uma ferramenta capaz de facilitar seu trabalho, cria uma conta e começa a utilizá-la sem aprovação formal, avaliação de segurança ou análise jurídica.
A diferença é que uma plataforma de IA pode receber dados corporativos diretamente. Código-fonte, contratos, relatórios financeiros, estratégias comerciais, informações de clientes, documentos jurídicos e propriedade intelectual podem ser inseridos em serviços externos em poucos segundos.
Uma planilha completa de clientes enviada para análise, um contrato confidencial encaminhado para revisão ou um trecho de código proprietário usado para encontrar um erro representam possíveis transferências de informação para ambientes que a empresa não controla. Mesmo quando não há intenção maliciosa, o risco permanece.
O IBM Cost of a Data Breach Report 2025 apontou essa distância entre adoção e controle: 63% das organizações entrevistadas não tinham políticas de governança de IA capazes de administrar seu uso ou impedir a proliferação de Shadow AI.
Esse tipo de exposição envolve classificação da informação, retenção de dados, tratamento por terceiros, localização dos servidores, propriedade intelectual, obrigações contratuais e proteção de dados pessoais. O risco Sensitive Information Disclosure, ou divulgação de informações sensíveis, também é reconhecido entre as principais ameaças a aplicações baseadas em modelos de linguagem.
O prompt também pode vazar informações
Muitas empresas tratam o prompt apenas como uma pergunta ou comando. Na prática, ele pode funcionar como um canal de saída de dados. Para receber uma resposta mais precisa, usuários frequentemente incluem anexos, trechos de documentos, registros de clientes, credenciais temporárias ou detalhes de processos internos.
Esse comportamento cria riscos mesmo quando a plataforma parece confiável. É necessário entender se os dados são armazenados, por quanto tempo permanecem disponíveis, se são utilizados para treinamento, quais fornecedores têm acesso e quais controles de exclusão existem.
Além de estabelecer políticas claras, a empresa deve definir quais tipos de informação podem ser usados em ferramentas públicas, privadas ou internas. Uma classificação simples pode separar dados públicos, internos, confidenciais e altamente restritos, determinando quais recursos de IA são permitidos em cada caso.
Prompt injection transforma conteúdo em superfície de ataque
Aplicações tradicionais costumam separar comandos, código e dados de maneira relativamente definida. Em sistemas baseados em linguagem natural, essa fronteira é menos rígida: um texto analisado pelo modelo pode influenciar seu comportamento.
Na chamada prompt injection, um atacante tenta inserir instruções capazes de alterar a resposta ou o fluxo de execução da aplicação. O comando pode aparecer diretamente na conversa ou estar escondido em um arquivo, uma página da internet, um e-mail, uma imagem ou um documento processado automaticamente.
A indirect prompt injection é particularmente perigosa. Um agente recebe uma tarefa legítima, consulta uma fonte externa e encontra, no conteúdo analisado, instruções maliciosas. Se não houver separação adequada entre dados e comandos, o sistema pode ignorar a intenção original e seguir a orientação do atacante.
As consequências incluem extração de informações, alteração de resultados, execução de ações indevidas, envio de mensagens, manipulação de registros ou acesso indevido a ferramentas conectadas.
A proteção exige limitar o contexto fornecido ao modelo, validar entradas, controlar as saídas e exigir confirmação humana antes de ações sensíveis. Também é importante testar aplicações com conteúdos maliciosos antes de colocá-las em produção.
Agentes autônomos transformam permissões em risco
Um chatbot que apenas responde a perguntas apresenta um risco diferente de um agente capaz de consultar sistemas, criar chamados, alterar registros, enviar e-mails ou executar comandos. Quanto maior a autonomia, maior a importância das permissões concedidas.
Um agente mal configurado pode interpretar uma solicitação de forma incorreta, agir sobre dados errados ou executar uma sequência de tarefas sem supervisão suficiente. Se suas credenciais forem comprometidas, o invasor poderá utilizar o agente como caminho para sistemas internos.
O princípio do menor privilégio deve ser aplicado também à IA. O agente precisa acessar somente os dados e funções indispensáveis ao objetivo definido, com permissões segmentadas, prazo de validade, limites de volume e registro detalhado das atividades.
A aprovação humana continua necessária para operações de alto impacto, como pagamentos, exclusões, alterações contratuais, publicação de conteúdo, concessão de acesso e manipulação de dados pessoais.
APIs, plugins e integrações ampliam a cadeia de confiança
A segurança de uma solução de IA não depende apenas do modelo. APIs, plugins, conectores, bibliotecas, fornecedores de nuvem e bases de dados formam uma cadeia de confiança que pode introduzir vulnerabilidades.
Uma integração mal protegida pode expor tokens, permitir consultas excessivas ou transferir informações para um serviço que não atende aos requisitos da organização. Também existe o risco de mudanças futuras nos termos de uso, no comportamento do modelo ou na infraestrutura do fornecedor.
Antes de conectar uma IA a sistemas corporativos, é necessário avaliar o fornecedor, documentar os fluxos de dados, proteger chaves de acesso, monitorar chamadas e estabelecer critérios para revogar integrações. Segredos nunca devem ser inseridos em prompts ou armazenados em locais acessíveis ao modelo.
Alucinações também podem causar incidentes
As chamadas alucinações ocorrem quando a IA apresenta informações incorretas, inventadas ou sem fundamento com aparência de certeza. Embora sejam frequentemente tratadas como um problema de qualidade, elas também podem gerar consequências de segurança e conformidade.
Uma resposta errada pode levar à aplicação de uma regra inexistente, à divulgação de uma informação equivocada, à contratação de um fornecedor inadequado ou à execução de uma ação incompatível com políticas internas. Em áreas reguladas, um conteúdo incorreto pode produzir impactos jurídicos e financeiros.
Para reduzir o problema, respostas críticas devem ser verificadas por fontes confiáveis e revisadas por profissionais. Sistemas de recuperação de informação, registros de evidências, limites de confiança e mecanismos de aprovação ajudam a impedir que uma resposta gerada automaticamente seja tratada como verdade absoluta.
A IA aumenta a capacidade dos atacantes
A mesma tecnologia usada para automatizar atividades legítimas pode ser explorada por criminosos. Modelos generativos ajudam a produzir mensagens de phishing mais convincentes, adaptar golpes a diferentes públicos, traduzir campanhas, criar códigos maliciosos e acelerar a identificação de vulnerabilidades.
Ataques podem ser personalizados em grande escala, com linguagem adequada ao cargo da vítima, ao setor da empresa e ao contexto de uma negociação. Isso reduz o esforço necessário para realizar campanhas mais sofisticadas.
As organizações precisam combinar controles técnicos com treinamento contínuo. Autenticação multifator, filtragem de mensagens, proteção de endpoints, gestão de identidades e monitoramento comportamental continuam essenciais, mas devem ser acompanhados de processos capazes de responder rapidamente a tentativas de engenharia social.
Governança sem visibilidade é insuficiente
Não é possível controlar aquilo que a empresa não consegue identificar. Inventários precisam incluir ferramentas oficiais, aplicações contratadas por departamentos, contas pessoais utilizadas para atividades profissionais, integrações com IA e agentes desenvolvidos internamente.
A descoberta pode envolver análise de tráfego, revisão de gastos, entrevistas com equipes, inventário de aplicações e monitoramento de padrões de uso. O objetivo não é apenas encontrar violações, mas entender como a IA está sendo usada e oferecer alternativas seguras para as necessidades reais dos funcionários.
Políticas excessivamente restritivas tendem a estimular a utilização clandestina de ferramentas. Uma abordagem mais eficiente define usos permitidos, dados proibidos, critérios de aprovação, responsabilidades dos usuários e procedimentos para comunicar incidentes.
Como estruturar uma estratégia de proteção
A primeira etapa é criar uma política corporativa de uso de IA alinhada à classificação de dados e aos requisitos regulatórios. O documento deve explicar quais ferramentas são aprovadas, que informações podem ser processadas e quais atividades exigem revisão humana.
Em seguida, a empresa deve avaliar os riscos de cada aplicação. Uma ferramenta usada para gerar textos públicos não apresenta o mesmo perfil de uma solução conectada ao sistema financeiro ou ao prontuário de clientes. A análise deve considerar dados, permissões, integrações, autonomia, fornecedor e impacto de uma falha.
Também é necessário investir em controles de prevenção de perda de dados, gestão de identidades, registro de atividades, detecção de comportamento anômalo e resposta a incidentes. Testes periódicos devem simular vazamento de prompts, manipulação de documentos, abuso de permissões e tentativas de prompt injection.
O objetivo não deve ser simplesmente bloquear a IA
Bloquear indiscriminadamente a inteligência artificial raramente elimina seu uso. Em muitos casos, apenas desloca a atividade para ferramentas pessoais e ambientes sem monitoramento.
A meta deve ser permitir a inovação com limites proporcionais ao risco. Isso significa criar ambientes aprovados, oferecer modelos corporativos, aplicar mascaramento de dados, restringir integrações perigosas e disponibilizar orientações práticas para os usuários.
Empresas que combinam visibilidade, controles técnicos, educação e responsabilização conseguem aproveitar os ganhos da IA sem transformar cada novo recurso em uma ameaça descontrolada.
Da adoção à gestão efetiva do risco
A inteligência artificial já faz parte das operações corporativas e continuará avançando. O risco, portanto, não está apenas no modelo, mas na forma como a tecnologia é configurada, alimentada, conectada e supervisionada.
Uma estratégia madura precisa acompanhar todo o ciclo de vida: seleção do fornecedor, desenvolvimento, testes, implantação, monitoramento, revisão de permissões e encerramento do serviço. Também deve prever auditorias, registro de incidentes e atualização constante das políticas.
A adoção segura de IA depende de uma combinação de tecnologia, processos e cultura. Com inventário preciso, proteção de dados, menor privilégio, validação humana e monitoramento contínuo, é possível reduzir os impactos de Shadow AI, vazamentos, prompt injection, alucinações e agentes autônomos sem impedir a transformação digital da empresa.