Szótár
Hallucináció (AI)
Definíció
Mi az a Hallucináció (AI)?
Az AI-ban a hallucináció olyan magabiztos válasz, amelyet a modell bemenete vagy a tények nem támasztanak alá: kitalált ár, nem létező szabályzat, sosem írt hivatkozás. Ez a fő kockázat az ügyféloldali AI-nál, és a dokumentumaidra alapozott válaszokkal, a hatókör szűkítésével és a bizonytalanság emberhez irányításával kezelhető.
Frissítve:
Négy működő kontroll
Alapozd a válaszokat visszakeresett dokumentumokra. Szűkítsd az asszisztenst a területére, és engedd kimondani, hogy 'nem tudom'. Ellenőrizd a strukturált kimeneteket a rendszereiddel. Naplózz minden beszélgetést, és hetente nézz át egy mintát. Együtt ezek egy elfoglalt emberi ügyintéző alá viszik az ügyféloldali hibaarányt.
Gyakori kérdések
Teljesen kiküszöbölhető a hallucináció?
Nem, de ritkává és ártalmatlanná tehető: ritkává az alapozással és a hatókörrel, ártalmatlanná azzal, hogy a modell bizonytalan információra sosem cselekszik ellenőrzés nélkül.
Kapcsolódó fogalmak
Munkafolyamatok
Kapcsolódó szolgáltatások
Van ilyen folyamatod? Mesélj róla.
Hívást kérek