Hallucináció

A modell magabiztosan állít olyat, ami nem igaz — kitalál egy hivatkozást, egy személyt, egy számot. Nem hazudik (nincs szándéka); hihetően hangzó szöveget állít elő, és a hihető nem ugyanaz, mint az igaz.

Miért számít: ez a legnagyobb kockázat, amikor AI-t viszel ügyfelek elé. Egy magabiztos rossz válasz sokkal veszélyesebb, mint egy őszinte „nem tudom” — nem viheted élesbe az AI-funkciódat, amíg nem tudod, milyen gyakran, és milyen hangosan téved.