Kapcsolat

Hallucináció (MI)

Kategória
Mesterséges intelligencia
Angolul
Hallucination (AI)
Szócikk
34 / 90

Röviden: Mi az a hallucináció (MI)?

A hallucináció az a jelenség, amikor a nyelvi modell magabiztosan, hihetően megfogalmazott, de valótlan vagy forrás nélküli állítást közöl.

Magyarázat

A nyelvi modell valószínű szövegfolytatást állít elő, nem tényeket keres ki. Ha nincs megfelelő információja, akkor is előállhat gördülékeny válasszal, akár kitalált hivatkozással, számmal vagy névvel.

A kockázat csökkenthető: megbízható források átadásával (RAG), a források megjelenítésével, annak engedélyezésével, hogy a modell azt mondja: „nem tudom”, valamint emberi ellenőrzéssel ott, ahol a tévedésnek tétje van.

Példa: egy asszisztens nem létező jogszabályhelyre hivatkozik; ha a rendszer csak a betöltött dokumentumokból válaszolhat, és megmutatja a forrást, az ilyen hiba ritkább és könnyebben észrevehető.

Az összes fogalom A-tól Z-ig

Van egy ötlete vagy egy megoldandó feladata?

Beszéljünk