A IA está aprendendo a dizer “não” – e isso é uma boa notícia
A inteligência artificial generativa deixou de ser novidade tecnológica para se tornar ferramenta de rotina. Ela resume reuniões, redige e revisa textos, sugere cláusulas para contratos, prepara apresentações e responde perguntas complexas em segundos. No ambiente corporativo e na vida pessoal, já funciona como uma espécie de “copiloto digital”.
No Brasil, essa presença é massiva. Segundo a pesquisa TIC Domicílios 2025, do Comitê Gestor da Internet no Brasil (CGI.br), cerca de 50 milhões de pessoas com 10 anos ou mais já utilizam ferramentas de IA generativa – algo em torno de 32% de todos os usuários de Internet do país. Ou seja, não se trata mais de tecnologia de nicho, e sim de infraestrutura cognitiva do cotidiano.
Mas, à medida que a IA se populariza, também cresce a urgência de entender seus limites. E um dos mais perigosos é justamente a tendência de “falar com confiança sobre aquilo que não sabe” – o fenômeno que especialistas chamam de alucinação.
—
O que é, afinal, a “alucinação” da IA?
Alucinação, no contexto da IA, não tem relação com visão ou audição humana, mas com a forma como modelos generativos produzem respostas. Esses sistemas foram treinados para prever a próxima palavra mais provável em uma sequência, com base em imensas quantidades de texto da internet, livros, artigos, códigos e documentos.
Quando recebem uma pergunta para a qual não têm informação confiável, em vez de dizer “não sei”, muitos modelos seguem o padrão estatístico e completam a resposta com algo que parece plausível – ainda que completamente inventado.
Imagine a pergunta:
> “O que foi discutido sobre regulação da inteligência artificial na última edição do Fórum da Internet no Brasil?”
Uma IA tradicional pode responder com segurança:
> “No painel de maio de 2025, o coordenador do CGI.br afirmou que o Brasil será o primeiro país da América Latina a exigir auditoria algorítmica obrigatória para sistemas de IA de alto risco.”
O tom é convincente, a descrição parece detalhada, a frase soa verossímil. Mas é possível que esse painel nunca tenha acontecido, que a citação jamais tenha sido dita ou que tenha surgido de fragmentos de outros textos combinados de forma probabilística.
O problema não é só errar. É errar com autoridade. A interface conversa de maneira fluida, usa jargões técnicos, constrói frases coerentes – e tudo isso aumenta a chance de o usuário acreditar na resposta sem checar.
—
Por que a IA tem tanta dificuldade em dizer “não sei”?
Modelos de linguagem não foram desenhados, originalmente, para exercer autocontenção. Foram otimizados para serem úteis, criativos, completos e fluentes. Em termos técnicos, o objetivo durante o treino é maximizar a probabilidade de prever a próxima palavra, não avaliar a veracidade da informação.
Além disso:
– Muitos sistemas não têm acesso direto a fontes atualizadas ou bases de dados específicas.
– A arquitetura clássica foi pensada para “completar textos” e não para “recuperar evidências”.
– Na ausência de informação segura, seguir “o padrão mais provável” é, para o modelo, um comportamento esperado.
O resultado é uma espécie de “certeza estatística”, que não distingue o que é bem fundamentado do que é apenas provável.
É justamente para lidar com esse problema que uma nova abordagem vem ganhando espaço: o RAG, ou geração aumentada por recuperação.
—
O que é RAG e como ele muda o comportamento da IA
RAG é a sigla para Retrieval-Augmented Generation, em português, “geração aumentada por recuperação”. Em vez de confiar apenas na “memória” abstrata adquirida durante o treinamento, o modelo passa a consultar fontes definidas previamente antes de responder.
Funciona, em linhas gerais, assim:
1. Recuperação (retrieval)
A IA pesquisa em bases de conhecimento específicas, como:
– documentos internos da empresa,
– contratos e políticas,
– relatórios,
– artigos técnicos ou científicos,
– bases de perguntas e respostas já validadas.
O que é encontrado nessa etapa torna-se o “universo de fatos” disponível na interação.
2. Raciocínio (reasoning)
Com o material recuperado, o modelo interpreta, compara, seleciona trechos relevantes e organiza a informação.
3. Geração (generation)
Por fim, a IA transforma esse raciocínio em uma resposta em linguagem natural, explicando de forma clara o que encontrou.
Há uma consequência central e poderosa: se um dado não foi recuperado na primeira etapa, ele não “existe” para o modelo naquela conversa. A IA passa a operar com um conjunto de fatos limitado às fontes configuradas – e isso abre espaço para algo que faltava: o limite.
—
A IA que aprende a impor limites e a dizer “não”
Com RAG bem implementado, a IA deixa de “inventar” detalhes quando não encontra evidências. Em vez disso, tende a produzir respostas do tipo:
– “Não encontrei qualquer registro desse evento na base de documentos consultada.”
– “Não há evidências suficientes para confirmar essa informação.”
– “Os dados disponíveis não permitem afirmar isso com segurança.”
Parece pouco? Na prática, é um avanço enorme. Uma negativa transparente pode ser muito mais valiosa do que uma história coerente, mas falsa. Segundo estudos recentes de avaliação de alucinações em IA, sistemas que usam RAG com recuperação de alta qualidade conseguem reduzir alucinações em consultas factuais em algo entre 50% e 80%, dependendo do domínio e da qualidade da base de conhecimento.
Em outras palavras, a IA começa a se comportar como uma pessoa responsável em uma reunião: antes de responder, consulta a pasta correta, verifica os documentos e só então se pronuncia. Se não há registro, diz “não tenho essa informação”.
—
Por que isso importa para empresas e organizações
No contexto corporativo, as consequências de uma resposta errada, mas convincente, podem ser graves:
– Riscos jurídicos
Uma cláusula contratual “sugerida” pela IA, mas incompatível com a legislação, pode gerar litígios e prejuízos.
– Erros de compliance
Interpretações equivocadas sobre regulações de proteção de dados, trabalho ou meio ambiente podem levar a multas.
– Decisões estratégicas comprometidas
Relatórios ou análises de mercado baseados em informações alucinadas distorcem a percepção de risco e oportunidade.
– Perda de confiança interna
Se colaboradores percebem que a IA “inventa” respostas, a ferramenta deixa de ser vista como suporte confiável.
Ao adotar RAG, empresas passam a controlar parte crucial do processo: a fonte de verdade. A IA deixa de “beber” apenas de um oceano anônimo de textos da internet e passa a ser guiada por documentos que a própria organização define como oficiais.
—
IA mais confiável exige também dados de qualidade
É importante frisar: RAG não é mágica. Ele reduz alucinações, mas não corrige automaticamente erros da base. Se os documentos internos estiverem desatualizados, contraditórios ou mal organizados, a IA apenas reproduzirá, com elegância, a confusão existente.
Por isso, implementar RAG com responsabilidade envolve:
– organizar e classificar documentos de forma consistente;
– definir quais bases são “fonte oficial” para cada tipo de pergunta (jurídica, técnica, de RH, etc.);
– manter processos de atualização periódica das informações;
– registrar quem pode inserir, editar ou remover conteúdos da base de conhecimento.
Em resumo: para que a IA possa dizer “não”, “não sei” ou “não há evidências”, a empresa precisa saber onde estão – e o que contêm – seus próprios dados.
—
O papel da transparência nas respostas da IA
Uma boa prática crescente é fazer com que a própria resposta da IA indique de onde tirou as informações, por exemplo:
– mencionando os documentos consultados;
– explicitando datas de atualização;
– destacando trechos-chave da fonte.
Isso permite ao usuário conferir o conteúdo original e avaliar se a aplicação daquele dado faz sentido no seu contexto. Mesmo quando não há links diretos, a referência à origem (relatório interno, política da empresa, norma técnica específica) ajuda a construir um ambiente de maior responsabilidade e rastreabilidade.
Ao mesmo tempo, a IA pode ser configurada para assumir um tom prudente, sobretudo em temas sensíveis, deixando claro o grau de certeza:
– “Com base na política interna de 2024, a orientação é…”
– “Os documentos disponíveis sugerem que…”
– “Não encontrei referência explícita a esse ponto, mas, por analogia com a política X, é possível inferir que…”
Esse tipo de nuance é essencial para evitar que a ferramenta seja percebida como uma “autoridade infalível”.
—
Quando a melhor resposta é uma recomendação de ação humana
Outro avanço importante é reconhecer que, em muitos casos, a resposta correta da IA não é um texto pronto, mas uma orientação de encaminhamento. Em vez de simular segurança em áreas de alto impacto, a ferramenta pode:
– sugerir consultar o departamento jurídico em questões legais complexas;
– recomendar validação com o time de segurança da informação em decisões sobre dados sensíveis;
– indicar especialistas internos para temas extremamente específicos.
Assim, a IA deixa de competir com o julgamento humano e passa a funcionar como um filtro inteligente de informações, que sabe quando precisa “passar a bola” para uma pessoa.
—
O impacto cultural: ensinar usuários a desconfiar da IA, quando necessário
Para que essa nova geração de sistemas realmente reduza riscos, é preciso também mudar a cultura dos usuários. Algumas práticas são fundamentais:
– Não tratar a IA como oráculo
Encará-la como assistente que pode errar, principalmente em informações muito específicas ou recentes.
– Checar respostas críticas
Verificar em documentos oficiais, regulamentos, decisões anteriores ou com especialistas da organização.
– Estimular o hábito de perguntar pela fonte
Solicitar que a IA explique de onde tirou certa informação ou qual documento baseou sua conclusão.
– Lembrar que ausência de dado também é informação
Saber que “não encontrei evidência” pode ser sinal de que um processo não está documentado, por exemplo.
Quando a cultura organizacional valoriza a checagem e o questionamento, a resposta “não sei” deixa de ser vista como fraqueza da IA e passa a ser percebida como demonstração de maturidade tecnológica.
—
IA, regulação e o futuro da responsabilidade algorítmica
À medida que governos discutem leis específicas para IA, cresce a expectativa de que sistemas adotem mecanismos claros de:
– explicabilidade (explicar como chegaram a certas saídas),
– mitigação de vieses,
– proteção de dados pessoais,
– redução de danos a indivíduos e grupos.
Capacidades como RAG, limitação de escopo e transparência na origem da informação tendem a se tornar cada vez mais relevantes em ambientes regulados. Em setores como financeiro, saúde, educação e setor público, será difícil justificar decisões importantes baseadas em modelos que “inventam com segurança”.
Nesse contexto, ensinar a IA a dizer “não” é parte central de uma agenda mais ampla de responsabilidade algorítmica. Não se trata apenas de deixar o sistema mais preciso, mas de alinhar seu comportamento com princípios básicos de ética, segurança e prestação de contas.
—
Caminho prático para organizações que querem IA com limites claros
Para empresas e instituições que desejam usar IA generativa com menos alucinações e mais controle, alguns passos práticos são:
1. Mapear casos de uso prioritários
Identificar onde a IA será aplicada (atendimento, jurídico, RH, TI, financeiro) e que tipo de informação ela precisará consultar.
2. Construir e higienizar a base de conhecimento
Selecionar documentos confiáveis, remover versões antigas e organizar tudo de forma pesquisável.
3. Implementar RAG com foco em qualidade de recuperação
Ajustar os mecanismos de busca para garantir que os documentos mais relevantes sejam de fato os recuperados.
4. Configurar respostas com gradação de certeza
Treinar a ferramenta para indicar quando há alta, média ou baixa confiança na resposta.
5. Monitorar alucinações e ajustar o sistema
Coletar exemplos de erros, revisar a base, refinar regras e melhorar continuamente o comportamento do modelo.
6. Treinar usuários
Ensinar colaboradores a interpretar as respostas, pedir evidências e usar a IA como apoio – não como substituta integral do julgamento humano.
—
A nova competência da IA: saber onde termina seu conhecimento
Durante muito tempo, a principal capacidade da IA generativa foi a fluência: escrever bem, completar frases, gerar textos envolventes. Agora, começa a surgir uma competência igualmente importante: autolimitação informada.
Uma IA que diz “não sei”, “não encontrei evidência” ou “não posso afirmar isso com segurança” não é menos avançada. É, na verdade, sinal de amadurecimento. Significa que o sistema aprendeu a reconhecer a fronteira entre o que está sustentado por dados confiáveis e o que seria apenas especulação.
À medida que ferramentas baseadas em RAG se expandirem, ficará cada vez mais natural conviver com respostas que apontam lacunas, incertezas e a necessidade de participação humana. E isso é, paradoxalmente, o que pode tornar a inteligência artificial mais útil, mais segura e mais alinhada às expectativas da sociedade.
Em outras palavras, o futuro da IA realmente confiável talvez não dependa apenas de ensinar máquinas a responder mais – mas, principalmente, de ensiná-las a responder menos quando for preciso. E a ter a coragem algorítmica de dizer: “não”.