Megalapozás (grounding)

Minden választ valódi forrásanyaghoz kötni: az AI csak azokból a dokumentumokból válaszolhat, amiket a kezébe adtál, lehetőleg megjelölve, honnan származik minden állítás. Egy megalapozatlan válasz abból jön, amit a modell (maga az AI — az a rész, amelyik olvas és ír) évekkel ezelőtt felszedett a nyílt internetről. Egy megalapozott válasz a te nyilvántartásaidból.

Az az inas, aki az árlistádból mond árat, szemben azzal, aki abból, amit gondol az árakról.

Miért számít: a megalapozás a fő védekezés a hallucináció ellen — amikor az AI teljes magabiztossággal állít valótlant. „Ez megalapozott, és mi alapján?” — ez az első kérdés minden olyan AI-ról, ami cégadatokból válaszol. Ha senki nem tudja megmondani, milyen dokumentumokat olvas, akkor egyiket sem olvassa.

Kapcsolódó: Hallucináció · RAG