Uma alucinação de IA é quando a inteligência artificial gera uma informação falsa, mas com aparência convincente. É um dos limites mais importantes de entender ao usar IA.
Por que acontece
Os modelos geram o texto mais provável, não o mais verdadeiro. Quando não «sabem» algo, podem inventar uma resposta plausível — nomes, datas, citações ou fontes que não existem.
Onde é mais perigoso
Em dados factuais: números, leis, citações, referências médicas ou jurídicas. A IA pode inventar uma lei, uma estatística ou um livro com total naturalidade.
Como se proteger
Confira sempre os dados importantes em uma fonte confiável; peça fontes e verifique-as; e desconfie de respostas suspeitosamente específicas. Os detectores de texto por IA não são confiáveis: a OpenAI encerrou o seu em 2023 por baixa precisão, e estudos encontram taxas de falsos positivos acima de 20% com quem não é falante nativo de inglês. Não trate o resultado de um detector como prova.
Reduzir invenções com as suas fontes
Quem quer ir além de um único chatbot pode olhar plataformas como a osFoundry (IA agêntica com o seu próprio modelo, também auto-hospedável) para unir diferentes funções de IA.
Leia também
Este é um conteúdo informativo geral, não é aconselhamento jurídico nem fiscal. Regras, preços e prazos mudam; confirme em fontes oficiais.