Fogalomtár
Hallucináció – mit jelent?
Definíció
Hallucináció: A hallucináció az, amikor egy AI magabiztosan olyan választ ad, amely nem szerepel a forrásaiban.
A nyelvi modell a valószínű folytatást írja; ha nincs mire támaszkodnia, kitalálhat egy hihető, de hamis választ.
Hogyan működik
A nyelvi modell minden szónál azt írja tovább, ami az eddigi szöveg alapján a legvalószínűbbnek tűnik. Ha van mögötte adat, azt fogalmazza át. Ha nincs, a hangja akkor is ugyanolyan magabiztos marad.
Ilyenkor a hiányzó tudást a valószínűségből pótolja, és hihető, mégis hamis válasz születik. Két védelem van: az asszisztens csak elérhető forrásból válaszol, és ha a forrás nem ad támaszt, átadja a kérdést egy kollégának.
Példa egy cégnél
A vevő a webáruházban rákérdez, mikor érkezik meg a kiválasztott termék. A forrás nélkül dolgozó asszisztens erre azt írja: „holnap kiszállítjuk”, pedig a készletadat erről semmit nem mond.
A tudásbázisra támaszkodó asszisztens jelzi, hogy erről nincs adata, elkéri a vevő elérhetőségét, és átadja a kérdést a kollégának.
Mit jelent ez a cégvezetőnek
A jelenséget teljesen kizárni nem lehet, ezért az a kérdés, mit tesz ellene a szolgáltató. Kérdezze meg: forrásból válaszol-e, átad-e hiányzó információnál, és jelzi-e a bizonytalanságot.
Ha ezek hiányoznak, a vevő magabiztos, mégis téves választ kap, és a reklamáció az Ön cégét terheli. A kockázat a pénzvisszatérítés és a vevő bizalmának elvesztése.
Nálunk így
Az asszisztens az Ön cégének saját tudásbázisából válaszol: weboldal, termékoldalak, árlista és dokumentumok alapján. A válasz mellett a forrás is látszik. Amire nincs tartalom, azt nem találja ki: elkéri az elérhetőséget, és a kollégának adja át.
Élesítés előtt tíz próbakérdéssel ellenőrizzük a válaszokat. A működésről a hogyan működik oldalon olvashat.