RAG (retrieval-augmented generation)

A szabványos recept arra, hogy a válaszok a saját dokumentumaidból jöjjenek. Megérkezik egy kérdés; a rendszer először átkeresi a fájljaidat azokért a részletekért, amik erről szólnak, majd átadja őket az AI-nak azzal, hogy „csak ebből válaszolj”.

Nyitottkönyves vizsga memóriateszt helyett. Nem az AI benne az okos rész — hanem az, hogy valami előbb megkereste a megfelelő oldalt.

Három szó jár körül egy fogalomkört, tehát: a RAG a teljes recept, a visszakeresés a benne lévő keresési lépés, a szemantikus keresés pedig az a trükk, amitől a keresés akkor is működik, ha a megfogalmazás nem egyezik.

Miért számít: a RAG az, ahogyan az AI a te szabályzataidból, szerződéseidből és eseteidből válaszol — és mindezt anélkül, hogy bárki újraépítené magát az AI-t. Ez a különbség az egész lényeg, úgyhogy mondjuk ki nyersen, mi az alternatíva: egy modell belső tudását megváltoztatni annyit tesz, hogy újratanítod, ami hónapokba és komoly pénzbe kerül, és amit az AI-cégek csinálnak, nem te. A RAG ugyanezt az eredményt hozza péntekre, azzal, hogy a kérdés pillanatában a megfelelő oldalakat adja a kezébe. A legtöbb „beszélgess a dokumentumaiddal” termék a háttérben ez.

Kapcsolódó: Visszakeresés · Megalapozás · Szemantikus keresés