Hallutsinatsioon on olukord, kus tehisintellekti mudel esitab valeväiteid täie veendumusega. See on üks suurimaid LLM-de probleeme ja takistab nende kasutamist faktipõhistes valdkondades nagu meditsiin ja õigusteadus.
Miks see juhtub?
LLM-id ei “tea” fakte traditsioonilises tähenduses. Nad ennustavad statistilisi mustreid. Kui mudelil pole konkreetset infot, ta võib selle “ekstrapoleerida” sarnastest mustritest — see kõlab usutavalt, kuid on vale.
Tüüpilised näited
- Viited olematutele teadustöödele
- Vale tsiteerimine
- Väljamõeldud kohtulahendid (USA juristid said selle eest karistada 2023. aastal)
- Vale ajalooline info
Kuidas vähendada?
- Kasuta RAG (Retrieval Augmented Generation) — mudel saab juurde tegelikud allikad
- Kontrolli alati kriitiline info üle
- Eelista mudeleid, mis annavad allikalinke (Perplexity)
- Newer reasoning-mudelid (o1, Claude Opus 4.7) on vähem hallutsinatsioonidele kalduvad