Halüsinasyon (AI)
Bir LLM'in yanlış ancak makul görünen bilgiler üretmesi olayı.
Halüsinasyonlar, bir LLM'in güvenle ürettiği ancak gerçekle örtüşmeyen yanıtlardır. Uydurma gerçekler, alıntılar veya bağlantılar içerebilirler. RAG, fine-tuning ve harici doğrulama yöntemleri ile azaltılabilirler.
Pratik örnekler
- Uydurma akademik alıntılar
- Var olmayan sayfalara bağlantılar
- Hatalı tarihi tarihler
- Var olmayan fonksiyonları kullanan kodlar