- A ChatGPT hallucinációi azért keletkeznek, mert a modell szavakat jósol, nem érti a valóságot, és hajlamos kitölteni a hiányosságokat, amikor az információ szűkös vagy kétértelmű.
- A kérdések megfelelő használata, világos kontextussal, explicit korlátokkal, források bekérésével és a bizonytalanság elismerésével, egyértelműen csökkenti a kitalált válaszok valószínűségét.
- A kulcsfontosságú adatok külső forrásokkal való validálása, valamint a megfelelő modellek, érvelési módszerek és konfigurációk használata elengedhetetlen, amikor a pontosság kritikus fontosságú.
- Bár az iparág új képzési technikákon dolgozik, a hibák észleléséért és a generált információk áttekintéséért a végső felelősség a felhasználót terheli.
A hallucinációk a ChatGPT-ben az egyik leggyakrabban vitatott témává váltak, valahányszor a generatív mesterséges intelligenciáról esik szó, és számos tipikus ChatGPT-hibában megjelennek . Ezek olyan válaszok, amelyek nagyon meggyőzően hangzanak, magabiztos hangnemben vannak megírva, de valójában hamis adatokat, kitalált idézeteket vagy alátámasztatlan következtetéseket tartalmaznak. Aki kíváncsiságból használja, annak ez talán nem jelent problémát, de annak, aki a mindennapi munkájában a mesterséges intelligenciára támaszkodik, igazi fejfájást okozhat.
Bár jelenleg lehetetlen teljesen kiküszöbölni a hallucinációkat egy nyelvi modellből, jelentősen csökkenthetjük őket három dolog kombinálásával: jobb promptok, bevált ellenőrzési gyakorlatok és bizonyos módosítások az egyes modellek használatában. Ez a cikk részletesen elmagyarázza, hogy mik ezek a hallucinációk, miért fordulnak elő, mit tesz az iparág (és különösen az OpenAI) a mérséklésük érdekében, és ami a legfontosabb, hogyan változtathatja meg a ChatGPT használatát, hogy sokkal kevesebb hibát vétsen.
Mik a hallucinációk a ChatGPT-ben, és miért fordulnak elő?
A mesterséges intelligencia kontextusában hallucináció akkor fordul elő, amikor egy olyan modell, mint a ChatGPT , helytelen, kitalált vagy alátámasztatlan információt generál , de olyan természetes módon jeleníti meg, hogy igaznak tűnik. Nem korlátozódik egyetlen hibára egy számban; néha egész bekezdéseket, közvetlen idézeteket, tanulmányok neveit vagy olyan érveket konstruál, amelyek egyetlen megbízható forrásban sem léteznek.
Ez azért történik, mert a ChatGPT, más nagyméretű nyelvi modellekhez hasonlóan, nem úgy érti a világot, mint te . Nem érvel, és nem ellenőrzi a tényeket egy valós idejű adatbázisban; ehelyett kiszámítja, hogy melyik szó következik a legvalószínűbben az előző után, a betanítás során tanult minták alapján. Lényegében egy rendkívül kifinomult szövegkiegészítő eszköz.
Amikor a feltett kérdés jól illeszkedik ahhoz, amit a modell a betanítás során megfigyelt, akkor általában helyesen válaszol. A probléma akkor merül fel, ha nagyon specifikus, ritka vagy rosszul reprezentált információt kérünk a betanítási adataiban. Ilyen helyzetekben „kénytelen” kitölteni a hiányosságokat azzal, amit a legvalószínűbb válasznak tart, még akkor is, ha nincs alátámasztó valóság.
Egy tipikus példa erre egy adott szerzőtől származó közvetlen idézet kérése . Ha a betanító adatok nem tartalmazzák pontosan ezt az idézetet, a felhasználó kitalálhat egy olyan kifejezést, amely "hangzik", mint a szerzőé, egészen természetesen neki tulajdoníthatja, és néha csak akkor ismeri el a hibát, ha a felhasználó ragaszkodik hozzá. Ugyanez vonatkozik a dátumokra, ábrákra, tulajdonnevekre vagy tudományos cikkekre való hivatkozásokra – ezek a területek különösen hajlamosak a hallucinációkra.
Van egy másik fontos tényező is: sok modellt arra képeznek ki, hogy mindig választ adjon . A „nem tudom” nyílt beismerése történelmileg nem volt prioritás a betanításuk során; ezért hajlamosak kitölteni az információkat akkor is, ha a kezelt adatok nem elegendőek vagy nem egyértelműek.
Hogyan működik a ChatGPT belsőleg (és mit jelent a hallucinációk esetén)
Ahhoz, hogy jobban megértsük, miért annyira kiszámíthatatlan a ChatGPT, hasznos megjegyezni, hogy ez egy hatalmas mennyiségű szövegen betanított nyelvi modell . A betanítás során mintákat tanul: mely szavak szoktak együtt járni, mely mondatszerkezetek jellemzőek egy tudományos cikkre, hogyan íródik egy hír, hogyan érvel egy esszé, és így tovább.
Amikor felteszel neki egy kérdést, a ChatGPT nem keres az interneten (kivéve azokat a verziókat, amelyeken engedélyezve van a webböngészés), hanem szóról szóra megjósolja a legvalószínűbb következő választ a megadott kontextus alapján. Ezért van az, hogy amikor lassan gépel a képernyőn, valójában valós időben egészíti ki a szöveget anélkül, hogy úgy "gondolkodna", mint egy ember.
Ez magyarázza, miért olyan jó a stílusok utánzásában, a szövegek összefoglalásában vagy a megadott dokumentációból összefüggő válaszok generálásában, de azt is, hogy miért vallhat látványos kudarcot, amikor olyan adatokat kérünk, amelyek hajszálpontosságot igényelnek. Ha bizonytalan az információkkal kapcsolatban, a modell hajlamos kitölteni a hézagokat, hogy elkerülje a diskurzus folyásának megzavarását.
Továbbá a mesterséges intelligencia betanításának módja is jelentős hatással van. Hagyományosan a modell előnyben részesítése volt, amely hasznos és meggyőző válaszokat ad a felhasználó számára , ami néha ütközik a szigorú tényszerű pontossággal. Ennek az egyensúlynak a megtalálása az iparág egyik legnagyobb jelenlegi kihívása.
Az OpenAI és az iparági stratégiák a hallucinációk csökkentésére
Az utóbbi években számos kritika merült fel a generatív mesterséges intelligencia hallucinációival kapcsolatban, a nyilvános bemutatókon elkövetett hibáktól (mint például a James Webb űrteleszkóppal kapcsolatos hamis állítás híres esete) a jogi vagy médiakontextusokban használt fiktív hivatkozásokig. Az ilyen jellegű hibák arra késztették az olyan vállalatokat, mint az OpenAI, hogy újragondolják modelljeik betanításának és értékelésének módját.
Az OpenAI egyik kutatási területe a „folyamatmonitorozás ”. Ahelyett, hogy kizárólag arra összpontosítana, hogy a végső válasz helyes-e („eredménymonitorozás”), megpróbálja értékelni és jutalmazni a modellt a válaszhoz vezető különböző érvelési szakaszokért.
Az ötlet az, hogy ha a mesterséges intelligenciát az átlátható és koherens érvelésért jutalmazzák , és nem csak azért, mert egy tiszta végső választ ad, akkor csökken annak a valószínűsége, hogy hamis, de látszólag helyes következtetésekre jut. Ez lehetővé teszi a modell számára, hogy jobban megmagyarázza a megtett lépéseket, közelebb kerülve az emberhez hasonló „érvelési láncolathoz”.
A közösségen belül azonban jelentős szkepticizmus tapasztalható azzal kapcsolatban, hogy ez a megközelítés mennyire képes valóban kiküszöbölni a hallucinációkat. Az adatvédelmi és etikai szakértők további részleteket követelnek a képzési folyamatokban használt adatokról és példákról, valamint független, lektorált kutatásokat az eredmények validálására.
Az OpenAI egyelőre nem tűzött ki konkrét dátumot ezen technikák széles körű bevezetésére az összes termékében, de világossá tette, hogy a pontatlanságok csökkentése prioritás. Időközben a helyes használat gyakorlati felelőssége nagyrészt a felhasználóé.
Viselkedésváltozás: amikor a ChatGPT több hallucinációt mutat
Sok rendszeres felhasználó észrevette, hogy az idő múlásával a ChatGPT hajlamosabb a zavarodottságra, vagy más módon zavarba jön , különösen hosszú dokumentumok, tudományos hivatkozások vagy kutatási feladatok esetén. Tipikus példa erre a kutatók, akik egy tucat PDF-et töltenek fel, és összefoglalókat, a főbb témák azonosítását és közvetlen idézeteket kérnek következtetéseik alátámasztására.
Visszatérő panasz, hogy amikor közvetlen idézeteket kérnek tőle hivatkozásokkal , a modell elkezdi kitalálni azokat. Még ha kijavítják és tudomásul veszik, akkor is további hamis idézeteket generál, és egyes csevegésekben úgy tűnik, mintha egyfajta "hallucinációs hurokba" kerülne, amelyből nehéz kitörni anélkül, hogy új beszélgetést kezdenénk.
Egy másik gyakran említett probléma a fokozott memória és a keresztkontextus hatása . Amikor az asszisztens emlékszik a preferenciákra vagy más beszélgetésekben megvitatott témákra, elkezdheti nem megfelelően keverni a mezőket: például kvantumszámítástechnikai fogalmakat vezet be a társadalomtudományokkal kapcsolatos kérdések megválaszolásakor, egyszerűen azért, mert a felhasználó egy másik csevegésben a kvantummechanikát említette.
Néhányan úgy döntöttek, hogy alternatív, dokumentumelemzésre szakosodott eszközöket próbálnak ki , például PDF-központú rendszereket, mint például a NotebookLM , miután észrevették, hogy a ChatGPT olyan idézeteket generál, amelyek nagyon hihetőnek hangzanak, de nem léteznek. Ezekben az esetekben a modell hasznos eszköz marad a kreativitáshoz, az ötleteléshez vagy az előzetes fogalmazáshoz, de óvatosabban használják az akadémiai pontosságot igénylő feladatoknál.
Az OpenAI ökoszisztémán belül a modellek között is megfigyeltek különbségeket. A pontosabb gondolkodásra irányuló verziók, mint például az o3 család , általában lassabbak, de kevesebb illúziót generálnak a részletes dokumentumelemzés során. Más variánsok, mint például a GPT-4o vagy a könnyebb modellek, nagyon jók a kreativitás és a sebesség szempontjából, de óvatosan kell használni őket, ha teljes mértékben ellenőrzött adatokra van szükség.
Hogyan minimalizálhatjuk a hallucinációkat a ChatGPT-ben jó promptokkal
Bár a modell felépítése korlátokat szab, a kérdések feltevésének módja óriási hatással van; a ChatGPT testreszabása és a kérdések finomítása nagymértékben csökkentheti annak valószínűségét, hogy a ChatGPT kitaláljon dolgokat , vagy legalábbis biztosíthatja, hogy figyelmeztessen, ha nincs elég információja.
Az egyik kulcs a világos és konkrét kontextus megadása . Minél homályosabb az utasítás, annál több teret tud a modell betölteni feltételezésekkel. Ahelyett, hogy azt kérdeznénk: „Mi Mexikó történelme?”, sokkal jobb, ha ezt pontosítjuk: „Magyarázza el a mexikói függetlenség kezdetének három fő okát, válaszát elismert történelmi forrásokkal alátámasztva.”
Az is nagyon hasznos, ha korlátozod az információk körét . Ha adsz nekik egy dokumentumot vagy szöveggyűjteményt, mondd el nekik, hogy a válaszuknak kizárólag erre az anyagra kell épülnie: „Csak az ezekben a cikkekben található információk felhasználásával válaszolj. Ha valami nincs bennük, mondd azt, hogy nincs elég adatod.” Ez csökkenti a kísértést, hogy a modell az általános képzéséből származó homályos ismeretekre támaszkodjon.
Egy másik hatékony stratégia a források bekérése vagy a bizonytalanság elismerése . Az olyan kifejezések, mint a „Ha nem biztos benne, kifejezetten mondja, hogy nem tudja” vagy a „Ne hamisítson információt; ha bármilyen adat hiányzik, jelezze” arra irányítják a modellt, hogy az őszinteséget helyezze előtérbe a folyékony fogalmazással szemben. Bár nem tévedhetetlen, ez általában csökkenti a nyilvánvaló hamisítások arányát.
Ha hozzáférsz az API-hoz, beállíthatod a modell hőmérsékletét . Az alacsony értékek (közel 0-hoz) konzervatívabbá és megismételhetőbbé teszik a kimenetet, csökkentve a kreativitás szintjét és ezáltal a hallucinációk kockázatát. Ezt a paramétert nem tudod közvetlenül módosítani a webes felületen, de kérhetsz valami hasonlót olyan utasításokkal, mint például: "Válaszolj objektíven, spekuláció vagy vélemény nélkül."
Jó gyakorlatok a lehetséges hallucinációk felismerésére és validálására
A promptok fejlesztése mellett kulcsfontosságú egy szisztematikus ellenőrzési rutin bevezetése . Ugyanazok a technikák, amelyeket az online átverések felderítésére használunk, alkalmazhatók a kétes mesterséges intelligencia válaszok azonosítására is.
Az első ajánlás szinte magától értetődő, de érdemes megismételni: a kulcsfontosságú információkat mindig ellenőrizd megbízható külső forrásokkal. Ha a ChatGPT számszerű adatokat, dátumokat, szerzők nevét vagy tanulmányi hivatkozásokat ad meg, ellenőrizd azokat hivatalos weboldalakon, tudományos adatbázisokban, könyvekben vagy referencia cikkekben; például nézd meg azoknak a feladatoknak a listáját, ahol a ChatGPT nem talál releváns példákat.
Az is nagyon hasznos, ha megkéred a modellt, hogy lépésről lépésre mutassa be az érvelését . Az olyan utasítások, mint a „Magyarázd el nekem, hogyan jutottál erre a következtetésre lépésről lépésre”, lehetővé teszik a logikai hiányosságok vagy indokolatlan ugrások észlelését. Ha látod, hogy az „út” nem logikus, a válasz valószínűleg hallucináción alapul.
A nagy kérdések konkrét alkérdésekre bontása segít elkerülni, hogy a modellnek egyszerre túl sok kontextust kelljen lefednie. Ahelyett, hogy egy egész területre vonatkozó makrokérdést tennénk fel, először a főbb elméletekről kérdezzünk, majd a főbb szerzőkről, végül az empirikus bizonyítékokról és így tovább. Így minden blokkot külön-külön is validálhatunk.
Az internetes keresést is támogató ChatGPT verziókban , például egyes fizetős csomagokban, ahol engedélyezett a böngészés, érdemes bekapcsolni ezt a funkciót, ha naprakész információkra van szükség. Bár ez nem szünteti meg a hallucinációkat, csökkenti a kockázatot, mivel a modell valós dokumentumokra támaszkodik, nem pedig kizárólag a statisztikai memóriára.
Érdekes trükk, hogy ugyanazt a kérdést apró változtatásokkal megismételjük . Ha a modell ellentmondásos válaszokat ad gyakorlatilag azonos kérdésekre, az jó jel arra, hogy esetleg kitalál vagy megbízhatatlanul extrapolál. Ilyen esetekben tanácsos alapos külső ellenőrzést végezni.
Végül, ha API-t vagy speciális konfigurációkat használ, adjon meg állandó rendszerutasításokat, például: „Ha nem biztos egy információban, válaszoljon azzal, hogy »Nincs elég információm«, és ne próbáljon találgatni.” Ez nem szünteti meg teljesen a problémát, de szigorúbb őszinteségi mércét állít fel.
Konfigurációk és használati módok, amelyek csökkentik a hibákat
A promptokon túl a ChatGPT-ben vannak bizonyos beállítások, amelyek segíthetnek minimalizálni a kitalált válaszokat , különösen, ha naponta használod érzékeny témákban, például kutatásban, tudományban vagy jogban.
Ha hozzáférsz fejlett modellekhez, amelyek integrált webes keresést is tartalmaznak , akkor érdemes aktiválni őket, amikor gyorsan változó adatokkal (aktuális események, szabályozások, friss szakirodalom) dolgozol. A valós idejű információkra való támaszkodás révén a mesterséges intelligencia több összehasonlítási lehetőséget kínál, és kevésbé kell statisztikai intuícióval kitöltenie a hiányosságokat.
Az úgynevezett fejlett érvelési módok , mint például az analitikai pontosságra összpontosító modellek (például az o3 család), úgy vannak kialakítva, hogy a szigorúságot helyezzék előtérbe a sebességgel szemben. Több időt vehetnek igénybe egy válasz generálása, de általában kevesebb súlyos hibát vétnek logikai, matematikai vagy részletes dokumentumelemzési problémákban.
Egy másik kulcsfontosságú funkció a ChatGPT testreszabható utasításai . A beállításokban megadhatod a kívánt válaszok típusát: technikaibb, oktató jellegűbb, óvatosabb stb. Például beállíthatod, hogy a pontosságot részesítse előnyben a kreativitással szemben, mindig hivatkozzon forrásokra, ha nem teljesen biztos, vagy figyelmeztessen, ha spekulációról van szó.
A ChatGPT kutatási célú használatakor fontos, hogy gazdag kontextust biztosítsunk, tele egyértelmű hivatkozásokkal , különösen akkor, ha cikkek vagy tudományos összefoglalók elemzését kérjük. Ha megbízható forrásokat is belefoglalunk a kérdésbe, és egyértelművé tesszük, hogy a válasznak ezeken a dokumentumokon kell alapulnia, azzal csökkentjük annak valószínűségét, hogy a modell homályos információkra támaszkodik.
Ne feledjük, hogy a különböző modellek eltérő kockázati profillal rendelkeznek . Egy könnyű modell nagyszerű lehet kreatív ötletek generálására („Adj meg 20 módot, hogyan jutok el X-ből Y-ba”), de nem a legjobb megoldás egy tanulmányból való pontos idézetek kinyerésére. Ezzel szemben egy nehezebb modell lehet a megfelelő választás mélyreható elemzéshez, még ha lassabb is. Ezen kiigazítások némelyike a modelleket alakító mesterséges intelligencia paraméterekből ered.
Gyakori felhasználói hibák, amelyek hallucinációkat váltanak ki
A naponta látott hallucinációk közül sok nemcsak magából a modellből fakad, hanem abból is, ahogyan használjuk. Számos olyan használati minta létezik, amelyek szinte hibázásra késztetik a mesterséges intelligenciát , és fontos ezeket azonosítani.
Az egyik leggyakoribb hiba a túl általános kérdések feltevése . Az olyan kérések, mint a „magyarázz el mindent a szociálpszichológiáról” vagy az „összefoglald a terület jelenlegi állását”, annyira általánosak, hogy a modellt hatalmas mennyiségű információ sűrítésére kényszerítik, növelve a hibák vagy pontatlan egyszerűsítések valószínűségét.
Egy másik veszélyes gyakorlat az, hogy vakon a mesterséges intelligenciára hagyatkozunk szó szerinti idézetek, bibliográfiai hivatkozások vagy jogi ítéletek generálásához anélkül, hogy ellenőriznénk azokat. Pontosan az ilyen típusú feladatokban a nyelvi modellek különösen hajlamosak olyan címeket, szerzőket vagy adatokat kitalálni, amelyek „jól hangzanak”, de nem léteznek.
Az sem segít, ha túl sok különböző témát keverünk egyazon témában . Ha egy beszélgetésben a kvantumfizikáról a pedagógiára, majd a jogra térünk át, és végül a művészettörténetre térünk át, a beszélgetés kontextusa kaotikussá válik, és megnő annak a valószínűsége, hogy a modell szükségtelenül áthúzza a fogalmakat egyik területről a másikra.
Hozzáállási szempontból veszélyes hiba a ChatGPT-t az abszolút igazság forrásaként, nem pedig támogató eszközként kezelni. Ahogyan egy gyakornok munkáját is áttekintenéd, úgy a modell kimenetét is át kell tekintened, különösen akkor, ha szakmai vagy tudományos hírneved forog kockán.
Végül érdemes megjegyezni, hogy a mesterséges intelligencia modelljei idővel javulhatnak vagy romolhatnak a frissítések során. Ha azt veszi észre, hogy egy adott modell bizonyos típusú feladatokban (például hosszú dokumentumok elemzése) több megbízhatósági problémát okoz, fontolja meg egy másik változatra való váltást, egy új, tiszta csevegés indítását, vagy más speciális eszközökkel való kombinálását.
Hogyan éljünk hallucinációkkal, miközben továbbra is élvezzük a ChatGPT-t
A hallucinációk nem fognak holnap eltűnni, de ez nem jelenti azt, hogy a ChatGPT elveszíti az értékét. A lényeg az, hogy bölcsen használjuk az eszközt : használjuk ki azt, amiben nagyon jó (írás, ötletek generálása, információk strukturálása, világos magyarázatok adása), és legyünk sokkal igényesebbek, amikor kritikus adatok kerülnek előtérbe.
Ha kreativitásra, ötletelésre vagy kezdeti írásra használod, a hallucinációk általában kevésbé problémásak; akár érdekes fordulatokat is hozhatnak. Ha azonban kutatáshoz, műszaki jelentésekhez vagy szigorúságot igénylő tartalmakhoz használod , bölcs dolog, ha saját alapos áttekintést is végzel, és nem teszel közzé semmit anélkül, hogy ellenőriznéd.
Ebben az egyensúlyozásban fontos két igazságot egyszerre elfogadni: az olyan modellek, mint a ChatGPT, hibáznak , néha feltűnően, de az is igaz, hogy az emberek hibáznak. Ha a mesterséges intelligencia egy adott feladatot kevésbé hibátlanul hajt végre, mint mi, vagy segít jelentősen csökkenteni a ráfordított időt, akkor továbbra is nagyon vonzó lehetőség, feltéve, hogy nem ruházzuk rá a végső felelősséget.
Végső soron te vagy a felelős azért, amit a neveddel írsz alá, nem a modellé. A ChatGPT-t hibáztatni egy súlyos hibáért olyan, mintha azt mondanád, hogy "a kutya megette a házi feladatodat" : ez kifogásnak hangozhat, de nem mentesít a következmények alól. Az ésszerű dolog az, hogy megtanulod felismerni a téveszméidet, integrálod az ellenőrző mechanizmusokat a munkafolyamatodba, és fokozatosan finomítod a kérdéseket és a beállításokat.
Ha jobb modelleket, új, folyamatközpontú képzési technikákat, integrált keresőeszközöket és érettebb felhasználói élményt kombinálunk, a hallucinációk fokozatosan ritkábban fognak előfordulni. Addig is a legbölcsebb megközelítés az, ha a ChatGPT-t annak tekintjük, ami: egy hatékony, de nem tévedhetetlen eszköznek , amely növelheti a termelékenységet, feltéve, hogy nem veszed névértéken a válaszait anélkül, hogy először átnéznéd őket.
