Inteligência Artificial
Alucinação: por que modelos afirmam coisas falsas com confiança
Alucinação é quando o modelo gera conteúdo fluente, mas sem apoio nos fatos ou na fonte. Entender as causas ajuda a reduzir o problema.
@raulelgreco1 min de leitura
Chama-se alucinação o texto gerado que parece correto, mas não tem apoio nos dados de entrada nem nos fatos. Um levantamento de Ji e colegas sobre geração de linguagem natural separa dois tipos: a alucinação intrínseca, que contradiz a fonte fornecida, e a extrínseca, que acrescenta informação impossível de verificar a partir dela.
As causas são várias: dados de treino com ruído, o próprio objetivo de prever o próximo token (que premia fluência, não verdade) e a forma como o texto é decodificado.
Como reduzir na prática
- Forneça a fonte no contexto e peça que a resposta se limite a ela.
- Peça citações literais dos trechos usados.
- Permita que o modelo responda "não sei".
- Para dados críticos, confira sempre na fonte original.
Nenhuma técnica elimina o problema por completo. Por isso, no Eureka42, toda matéria exige fonte primária antes de ir para revisão.
Foto: Puscas Adryan / Unsplash.