Tecnologia & IA
O que é Hallucination (Alucinação de IA)?
Hallucination é quando o LLM inventa informação confiante mas falsa — função inerente ao modelo, não bug; mitigada com RAG, prompt e validação.
LLM não "sabe" o que sabe — calcula probabilidade. Quando o contexto não dá info, ele preenche com o "mais provável estatisticamente", mesmo que invente nome de pessoa, citação ou função.
Mitigação: 1) RAG (passar a info real no contexto); 2) prompts que pedem citação ("apenas com base no texto X"); 3) validação automática (regex, schema, comparar com fonte); 4) "I don't know" como resposta válida no prompt.
Perguntas frequentes
Hallucination vai desaparecer com modelos novos?
Cai, mas não some — é propriedade fundamental de modelos probabilísticos. Aceite e proteja com guardrails.
Como detectar hallucination em produção?
LLM-as-judge (outro modelo valida a resposta), regras explícitas (regex, schema), e amostragem manual periódica.