RAG (visszakereséssel bővített generálás)
Röviden: Mi az a RAG (visszakereséssel bővített generálás)?
A RAG (retrieval-augmented generation) olyan módszer, amelyben a nyelvi modell a válasz előtt releváns dokumentumokat keres ki, és azokra támaszkodik.
Magyarázat
A folyamat két lépésből áll. Először a rendszer a kérdéshez leginkább illő szövegrészeket keresi ki egy tudásbázisból, jellemzően embeddingek és vektoradatbázis segítségével. Ezután a modell ezeket a részleteket megkapva fogalmazza meg a választ.
Így a modell friss és cégspecifikus információval dolgozik anélkül, hogy újra kellene tanítani. A válasz forrásai megmutathatók, és csökken a hallucináció kockázata, bár teljesen nem szűnik meg.
Példa: egy belső asszisztens a szabályzatokból és kézikönyvekből keresi ki a megfelelő bekezdéseket, és a válasz mellett megjelöli, melyik dokumentumból származik.