AI-hallucinációk: mik ezek, és hogyan előzhetők meg?

Mik azok az AI-hallucinációk?

Tegyük fel, hogy megkérjük az AI-t: sorolja fel 20 növekvő árbevételű budapesti cég cégjegyzékszámát. Látszólag logikus, teljes listát kaphatunk, csakhogy… az összes megadott cégjegyzékszám kitalált.

A hallucinációk jellegzetessége éppen ez a látszólagos következetesség: a válaszok meggyőzőnek tűnnek, az AI pedig a bizonytalanság legkisebb jelét sem mutatja. Ezért figyelmeztetnek a nyelvi modellek felületei arra, hogy ellenőrizzük a közölt számokat és tényeket.

Mi okozza az AI-hallucinációkat?

Hallucináció elsősorban három esetben fordul elő:

• hiányoznak az adatok (ez a fő ok: a modell találgat);
• pontatlan az utasítás (a modell maga tölti ki a hiányokat);
• túl összetett a feladat (a modell mindent egyszerre próbál elvégezni).

A probléma tehát nem pusztán a nyelvi modellekben, hanem az adatokhoz való hozzáférésben rejlik. A hallucinációk nem véletlenszerű, megmagyarázhatatlan jelenségek: meghatározható körülmények között jelentkeznek, amelyekre fel lehet készülni.

Hogyan csökkenthető az AI-hallucinációk kockázata?

Az AI-hallucinációk kockázata közvetlen, strukturált adathozzáféréssel csökkenthető. A nyelvi modellek ilyen környezetben tudják a legjobban értelmezni az információkat, döntéseket hozni és következtetéseket levonni.

Az alábbi három módszer mind ezt szolgálja; közülük az igényeidnek és a technikai felkészültségednek megfelelően választhatsz.

Adatfájl előkészítése

A kész adatok átadása a legegyszerűbb módja annak, hogy csökkentsük a hallucinációk kockázatát. Így kevesebb teret hagyunk az AI-nak arra, hogy saját történettel pótolja a hiányzó információkat.

A kezdő felhasználók gyakran úgy tekintenek a nyelvi modellre, mintha egyszerre lenne keresőmotor, ETL-folyamat és adatgyűjtő rendszer. Csakhogy ha a feladathoz adatokat kell összegyűjteni, megtisztítani és egységesíteni, könnyen túlléphetjük a kontextusablak korlátait, ami jelentősen növeli a hallucinációk kockázatát.

Ezért érdemes az adatgyűjtést több kisebb utasításra bontani, és közben folyamatosan ellenőrizni az AI állításait. Unalmasnak és időigényesnek hangozhat, de így teremthetünk szilárd alapot ahhoz, hogy a nyelvi modellek azt csinálják, amiben igazán jók: a rendelkezésre álló adatokkal dolgozzanak.

API használata

Az API-kapcsolat fejlettebb megoldás: gyorsabb, nagyobb léptékben is működő hozzáférést biztosít az adatokhoz, amelyek ráadásul naprakészek maradhatnak. Ha egy adatfájl átadása olyan, mintha egy vödör vizet adnánk a modellnek, az API olyan, mintha megnyitnánk számára a csapot.

A ChatGPT, a Claude vagy a Gemini keresési folyamata sokban hasonlít ahhoz, ahogyan az ember keres információt. A nyelvi modellek külső oldalakon, például a Redditen vagy a Wikipédián található tartalmakat vizsgálnak meg, majd választ adnak.

Ilyenkor azonban nem lehetünk biztosak abban, hogy a tartalom helyes és naprakész. Az egymástól független források eltérő formátumokat és időpontokat jelentenek, ráadásul emberi hibákat vagy véleményeket is tartalmazhatnak. Az API ezt a gyenge pontot kezeli: programozottan elérhető, állandó forrásból szolgáltathat megtisztított adatokat.

A Monitly API például világszintű statisztikákhoz biztosít hozzáférést olyan intézmények forrásaihoz kapcsolódva, mint a Központi Statisztikai Hivatal (KSH), az Eurostat, a Világbank, a WHO és az IMF. Így az AI-nak nem kell különböző oldalakon keresgélnie: közvetlenül lekérdezheti az API-t, és friss eredményt kaphat, ami megkönnyíti az adatok elemzését és értelmezését.

Csatlakozás MCP-n keresztül

Az MCP (Model Context Protocol) lehetővé teszi, hogy a nyelvi modellek közvetlenül hozzáférjenek fájlokhoz, táblázatokhoz, kódhoz vagy alkalmazásokhoz. Ez jelentősen csökkentheti a hallucinációk kockázatát, mert a modell kész adatokkal dolgozhat.

A céges adatokat kínáló Compabase például elérhetővé tette MCP-kapcsolatát, amellyel az AI gyorsan ellenőrizheti a helyi vállalatok adatait. Ha most 20 növekvő árbevételű budapesti cég cégjegyzékszámát kérjük, kitalált adatok helyett következetes, ellenőrzött listát kaphatunk. Nem azért, mert a modell hirtelen „okosabb” lett: korábban nem fért hozzá ezekhez az adatokhoz, most viszont egy egyszerű SQL-lekérdezéssel kész eredményt kaphat az adatbázisból.

Más szóval:

MCP nélkül:

• egyes cégek nem is léteznek;
• a pénzügyi adatok megbízhatatlanok;
• a cégjegyzékszámok kitaláltak.

MCP-vel:

• a modell lekérdezi az adatbázist;
• konkrét rekordokat kap vissza;
• a lekérdezés eredménye az adott adatok alapján egyértelmű.

A hallucináció lehetősége persze nem tűnik el teljesen, ha továbbra is túl sok adat feldolgozását és összekapcsolását várjuk el. Ha viszont strukturált környezetet biztosítunk, ahol az adatok valós időben elérhetők, és kevesebb a találgatásra hagyott tér, az AI a becslés helyett a létező adatok elemzésére összpontosíthat.