O que é Alucinação
Alucinação é quando um modelo de inteligência artificial afirma com segurança algo que não é verdade: um dado inventado, uma citação que não existe, uma fonte plausível e falsa.
Na prática
É o principal risco de usar IA em conteúdo de marca. O texto sai fluente e convincente, o que torna o erro difícil de notar em revisão rápida, e o custo cai sobre quem publicou, não sobre a ferramenta.
Um caso real
Um artigo de blog trouxe a estatística "73% dos consumidores brasileiros abandonam o carrinho por causa do frete", atribuída a um instituto conhecido. O número tinha vindo de um rascunho de IA. O instituto nunca publicou nada parecido, um leitor apontou nos comentários, e a correção pública custou mais credibilidade que o artigo inteiro tinha rendido.
O erro mais comum
Confiar por causa da fluência. Modelo de linguagem é otimizado para produzir texto plausível, não verdadeiro, e a confiança do tom não tem relação com a exatidão do conteúdo. A regra prática é simples e não se afrouxa: todo número, nome próprio e citação precisa ser conferido na fonte primária antes de publicar.
De onde vem
O termo foi adotado pela área de aprendizado de máquina para descrever saída sem apoio nos dados, e é criticado por antropomorfizar o sistema: o modelo não se engana, ele apenas gera a continuação mais provável. Alguns pesquisadores preferem chamar de confabulação, que descreve melhor o mecanismo.