- Halucinacije u ChatGPT-u nastaju jer model predviđa riječi, ne razumije stvarnost i sklon je popunjavanju praznina kada su informacije oskudne ili dvosmislene.
- Pravilna upotreba uputa, s jasnim kontekstom, eksplicitnim ograničenjima, zahtjevima za izvorima i priznavanjem nesigurnosti, jasno smanjuje vjerojatnost izmišljenih odgovora.
- Uvijek je važno provjeriti ključne podatke s vanjskim izvorima i koristiti odgovarajuće modele, metode zaključivanja i konfiguracije kada je točnost ključna.
- Iako industrija radi na novim tehnikama obuke, krajnja odgovornost za otkrivanje pogrešaka i pregled generiranih informacija leži na korisniku.
Halucinacije u ChatGPT-u postale su jedna od najčešće raspravljanih tema kad god se spomene generativna umjetna inteligencija, a pojavljuju se u mnogim tipičnim ChatGPT pogreškama . To su odgovori koji zvuče vrlo uvjerljivo, napisani samouvjerenim tonom, ali zapravo sadrže lažne podatke, izmišljene citate ili neutemeljene zaključke. Za nekoga tko ga koristi iz znatiželje, ovo možda i nije problem, ali za nekoga tko se oslanja na umjetnu inteligenciju u svom svakodnevnom radu, to može biti prava glavobolja.
Iako je trenutno nemoguće potpuno eliminirati halucinacije iz jezičnog modela, možemo ih značajno smanjiti kombiniranjem triju stvari: boljih uputa, dobrih praksi provjere i određenih prilagodbi načina na koji koristimo svaki model. Ovaj članak će detaljno objasniti što su te halucinacije, zašto se javljaju, što industrija (a posebno OpenAI) čini kako bi ih ublažila i, što je najvažnije, kako možete promijeniti korištenje ChatGPT-a tako da pravi puno manje pogrešaka.
Što su halucinacije u ChatGPT-u i zašto se javljaju?
U kontekstu umjetne inteligencije, halucinacija se javlja kada model poput ChatGPT-a generira netočne, izmišljene ili nepotvrđene informacije , ali ih predstavlja na tako prirodan način da se čine istinitima. Nije ograničen na jednu pogrešku u nizu; ponekad konstruira cijele odlomke, izravne citate, nazive studija ili argumente koji ne postoje ni u jednom pouzdanom izvoru.
To se događa jer ChatGPT, kao i drugi veliki jezični modeli, ne razumije svijet na način na koji ga vi razumijete . Ne razmišlja niti provjerava činjenice u bazi podataka u stvarnom vremenu; umjesto toga, izračunava koja riječ najvjerojatnije slijedi prethodnu, na temelju obrazaca koje je naučio tijekom obuke. U osnovi, to je izuzetno sofisticirani alat za dovršavanje teksta.
Kada se pitanje koje postavite dobro poklapa s onim što je model primijetio tijekom obuke, obično ga točno odgovori. Problem nastaje kada tražite vrlo specifične, rijetke ili slabo zastupljene informacije u podacima za obuku. U tim situacijama, model je "prisiljen" popuniti praznine onim što smatra najvjerojatnijim odgovorom, čak i ako ne postoji potkrepljujuća stvarnost.
Tipičan primjer je traženje izravnog citata određenog autora . Ako podaci za učenje ne sadrže taj točan citat, korisnik bi mogao izmisliti frazu koja "zvuči" kao autorova tog autora, pripisati mu je sasvim prirodno i ponekad priznati pogrešku tek kada korisnik inzistira. Isto vrijedi i za datume, brojke, vlastita imena ili reference na akademske članke - područja posebno osjetljiva na halucinacije.
Postoji i još jedan važan faktor: mnogi su modeli obučeni da uvijek daju odgovor . Otvoreno priznavanje "Ne znam" povijesno nije bio prioritet u njihovoj obuci; stoga imaju tendenciju popunjavati informacije čak i kada su podaci koje obrađuju nedovoljni ili dvosmisleni.
Kako ChatGPT funkcionira interno (i što znači za halucinacije)
Kako bismo bolje razumjeli zašto je ChatGPT toliko nepredvidljiv, korisno je zapamtiti da je to jezični model obučen na ogromnim količinama teksta. Tijekom obuke uči obrasce: koje riječi obično idu zajedno, koje su rečenice tipične u znanstvenom članku, kako se piše vijest, kako se argumentira esej i tako dalje.
Kada mu postavite pitanje, ChatGPT ne pretražuje internet (osim u verzijama s omogućenim pregledavanjem weba), već umjesto toga predviđa, riječ po riječ, najvjerojatniji sljedeći odgovor na temelju konteksta koji ste naveli. Zato, kada ga vidite kako polako tipka na zaslonu, on zapravo dovršava tekst u stvarnom vremenu, bez "razmišljanja" kao što bi to učinila osoba.
To objašnjava zašto je tako dobar u oponašanju stilova, sažimanju tekstova ili generiranju koherentnih odgovora iz dokumentacije koju dostavite, ali i zašto može spektakularno zakazati kada tražite podatke koji zahtijevaju točnost. Ako nije siguran u vezi s informacijama, model obično popunjava praznine kako bi izbjegao ometanje tijeka diskursa.
Nadalje, način na koji se umjetna inteligencija obučava ima značajan utjecaj. Tradicionalno, prioritet je bio na modelu koji daje korisne i uvjerljive odgovore za korisnika , što je ponekad u sukobu sa strogom činjeničnom točnošću. Postizanje ove ravnoteže jedan je od glavnih trenutnih izazova industrije.
OpenAI i industrijske strategije za smanjenje halucinacija
Posljednjih godina pojavile su se brojne kritike u vezi s halucinacijama generativne umjetne inteligencije, od pogrešaka u javnim demonstracijama (poput poznatog slučaja lažne tvrdnje o svemirskom teleskopu James Webb) do izmišljenih referenci korištenih u pravnim ili medijskim kontekstima. Ove vrste propusta potaknule su tvrtke poput OpenAI-a da preispitaju način na koji treniraju i evaluiraju svoje modele.
Jedan od smjerova istraživanja na kojima OpenAI radi poznat je kao "praćenje procesa ". Umjesto da se usredotoči isključivo na to je li konačni odgovor točan ("praćenje ishoda"), pokušava procijeniti i nagraditi model za različite faze zaključivanja koje slijedi kako bi došao do tog odgovora.
Ideja je da ako se umjetna inteligencija nagrađuje za transparentno i koherentno zaključivanje , a ne samo za dolazak do urednog konačnog odgovora, smanjuje se vjerojatnost da će doći do lažnih, ali naizgled ispravnih zaključaka. To također omogućuje modelu da bolje objasni korake koje je poduzeo, približavajući ga ljudskom "lancu zaključivanja".
Međutim, unutar zajednice postoji znatna skepsa o tome u kojoj mjeri ovaj pristup zaista može ukloniti halucinacije. Stručnjaci za privatnost i etiku pozivaju na više detalja o podacima i primjerima korištenim u tim procesima obuke, kao i na neovisna, recenzirana istraživanja za potvrdu rezultata.
Za sada, OpenAI nije odredio čvrsti datum za široku primjenu ovih tehnika u svim svojim proizvodima, ali je jasno dao do znanja da je smanjenje netočnosti prioritet. U međuvremenu, praktična odgovornost za ispravnu upotrebu uvelike leži na korisniku.
Promjena u ponašanju: kada se čini da ChatGPT više halucinira
Mnogi redoviti korisnici primijetili su da se ChatGPT s vremenom čini sklonijim zbunjenosti ili zbunjenosti na drugačiji način , posebno pri radu s dugim dokumentima, akademskim citatima ili istraživačkim zadacima. Tipičan primjer su istraživači koji prenose desetak PDF-ova i traže sažetke, identifikaciju ključnih tema i izravne citate kako bi potkrijepili svoje zaključke.
Ponavljajuća pritužba je da kada se od modela traže izravni citati s referencama , on ih počinje izmišljati. Čak i kada se ispravi i prizna, generira još lažnih citata, a u nekim chatovima čini se da ulazi u svojevrsnu "halucinacijsku petlju" iz koje ga je teško izvući bez započinjanja novog razgovora.
Drugi često spominjani problem je utjecaj poboljšanog pamćenja i međukonteksta . Kada asistent pamti preferencije ili teme o kojima se raspravljalo u drugim razgovorima, može početi neprimjereno miješati područja: na primjer, uvođenje koncepata kvantnog računarstva prilikom odgovaranja na pitanja o društvenim znanostima, jednostavno zato što je korisnik spomenuo kvantnu mehaniku u drugom chatu.
Neki su se odlučili isprobati alternativne alate specijalizirane za analizu dokumenata, poput sustava usmjerenih na PDF poput NotebookLM-a , nakon što su primijetili da ChatGPT generira citate koji zvuče vrlo uvjerljivo, ali nisu postojali. U tim slučajevima model ostaje koristan alat za kreativnost, brainstorming ili preliminarno pisanje, ali se opreznije koristi za zadatke koji zahtijevaju akademsku točnost.
Unutar OpenAI ekosustava uočene su i razlike između modela. Verzije usmjerene na preciznije zaključivanje, poput o3 obitelji , obično su sporije, ali generiraju manje iluzija u detaljnoj analizi dokumenata. Druge varijante, poput GPT-4o ili lakših modela, vrlo su dobre za kreativnost i brzinu, ali ih treba koristiti s oprezom kada su potrebni potpuno provjereni podaci.
Kako smanjiti halucinacije u ChatGPT-u s dobrim uputama
Iako dizajn modela postavlja ograničenje, način na koji postavljate pitanja ima ogroman utjecaj; prilagođavanje ChatGPT- a i poboljšanje upita može uvelike smanjiti vjerojatnost da ChatGPT izmisli stvari ili barem osigurati da vas upozori kada nema dovoljno informacija.
Jedan od ključnih je pružiti jasan i specifičan kontekst . Što je uputa nejasnija, to model ima više prostora za popunjavanje pretpostavkama. Umjesto pitanja: „Kakva je povijest Meksika?“, puno je bolje specificirati: „Objasnite tri glavna uzroka početka meksičke neovisnosti, potkrepljujući svoj odgovor priznatim povijesnim izvorima.“
Također je vrlo korisno ograničiti opseg informacija . Ako im date dokument ili skup tekstova, recite im da njihov odgovor mora biti isključivo utemeljen na tom materijalu: „Odgovorite samo koristeći informacije sadržane u ovim člancima. Ako nešto nije u njima, recite da nemate dovoljno podataka.“ To smanjuje iskušenje da se model oslanja na nejasno znanje iz svoje opće obuke.
Druga moćna strategija je traženje izvora ili potvrda nesigurnosti . Fraze poput „Ako niste sigurni, izričito recite da ne znate“ ili „Nemojte izmišljati informacije; ako nedostaju neki podaci, navedite ih“ vode model da da prednost iskrenosti nad tečnošću. Iako nije nepogrešivo, ovo obično smanjuje stopu očitih izmišljotina.
Ako imate pristup API-ju, možete prilagoditi temperaturu modela . Niske vrijednosti (blizu 0) čine izlaz konzervativnijim i ponovljivijim, smanjujući razinu kreativnosti i time rizik od halucinacija. Ovaj parametar ne možete izravno promijeniti u web sučelju, ali možete zatražiti nešto slično uputama poput: "Odgovorite objektivno, bez nagađanja ili mišljenja."
Dobre prakse za otkrivanje i provjeru mogućih halucinacija
Osim poboljšanja upita, ključno je usvojiti sustavnu rutinu provjere . Iste tehnike koje koristimo za otkrivanje prijevara na mreži mogu se koristiti za prepoznavanje sumnjivih odgovora umjetne inteligencije.
Prva preporuka je gotovo logična, ali vrijedi je ponoviti: uvijek provjerite ključne informacije s pouzdanim vanjskim izvorima. Ako vam ChatGPT daje numeričke podatke, datume, imena autora ili reference studija, provjerite ih na službenim web stranicama, akademskim bazama podataka, knjigama ili referentnim člancima; na primjer, pogledajte popise zadataka gdje ChatGPT ne uspijeva pronaći relevantne primjere.
Također je vrlo korisno zamoliti model da korak po korak pokaže svoje razmišljanje . Upute poput "Objasnite mi kako ste došli do tog zaključka, korak po korak" omogućuju vam da otkrijete logičke praznine ili neopravdane skokove. Ako vidite da "put" nema smisla, odgovor se vjerojatno temelji na halucinaciji.
Rastavljanje velikih pitanja na specifična podpitanja pomaže u sprječavanju da model mora obuhvatiti previše konteksta odjednom. Umjesto postavljanja makro pitanja o cijelom području, prvo pitajte o glavnim teorijama, zatim o ključnim autorima, pa o empirijskim dokazima i tako dalje. Na taj način možete neovisno validirati svaki blok.
U ChatGPT verzijama s internetskim pretraživanjem , kao što su neki plaćeni planovi s omogućenim pregledavanjem, vrijedi omogućiti ovu značajku kada su vam potrebne ažurne informacije. Iako to ne uklanja halucinacije, smanjuje rizik jer se model oslanja na stvarne dokumente, a ne isključivo na statističko pamćenje.
Zanimljiv trik je ponavljanje istog upita s malim varijacijama . Ako model daje kontradiktorne odgovore na gotovo identična pitanja, to je dobar pokazatelj da možda izmišlja ili nepouzdano ekstrapolira. U takvim slučajevima preporučljivo je provesti temeljitu vanjsku provjeru.
Konačno, ako koristite API ili napredne konfiguracije, definirajte trajne sistemske upute poput: „Ako niste sigurni u vezi neke informacije, odgovorite 'Nemam dovoljno informacija' i nemojte pokušavati nagađati.“ To ne uklanja problem u potpunosti, ali uspostavlja stroži standard iskrenosti.
Konfiguracije i načini korištenja koji smanjuju pogreške
Osim upita, postoje određene postavke unutar ChatGPT-a koje vam mogu pomoći da smanjite izmišljene odgovore , posebno ako ga svakodnevno koristite za osjetljive teme poput istraživanja, znanosti ili prava.
Ako imate pristup naprednim modelima s integriranim web pretraživanjem , dobra je ideja aktivirati ih pri radu s brzo promjenjivim podacima (aktualni događaji, propisi, nedavna literatura). Oslanjajući se na informacije u stvarnom vremenu, umjetna inteligencija ima više mogućnosti za usporedbu i manje potrebe za popunjavanjem praznina statističkom intuicijom.
Takozvani napredni načini zaključivanja , poput modela usmjerenih na analitičku točnost (na primjer, obitelj o3), dizajnirani su tako da daju prioritet rigoroznosti nad brzinom. Možda će im trebati dulje da generiraju odgovor, ali obično prave manje ozbiljnih pogrešaka u logičkim, matematičkim ili detaljnim problemima analize dokumenata.
Još jedna ključna značajka su prilagođene upute ChatGPT-a . U postavkama možete odrediti vrstu odgovora koje preferirate: tehničkije, edukativnije, opreznije itd. Na primjer, možete mu reći da da prioritet točnosti nad kreativnošću, da uvijek navodi izvore kada nije sasvim siguran ili da vas upozori ako nagađa.
Prilikom korištenja ChatGPT-a za istraživanje, važno je pružiti bogat kontekst, pun jasnih referenci , posebno ako tražite analizu članaka ili akademskih sažetaka. Uključivanje pouzdanih izvora u sam upit i jasno navođenje da odgovor treba biti utemeljen na tim dokumentima smanjit će vjerojatnost da će se model oslanjati na nejasne informacije.
Ne zaboravite da različiti modeli imaju različite profile rizika . Lagani model može biti izvrstan za generiranje kreativnih ideja („Dajte mi 20 načina da dođem od X do Y“), ali nije najbolja opcija za izvlačenje točnih citata iz rada. Suprotno tome, teži model može biti pravi izbor za dubinsku analizu, čak i ako je sporiji. Neke od tih prilagodbi proizlaze iz parametara umjetne inteligencije koji oblikuju modele.
Uobičajene korisničke pogreške koje izazivaju halucinacije
Mnoge halucinacije koje svakodnevno vidimo nisu samo posljedica samog modela, već i načina na koji ga koristimo. Postoji niz obrazaca korištenja koji gotovo potiču umjetnu inteligenciju na pogreške i važno ih je prepoznati.
Jedna od najčešćih pogrešaka je postavljanje preopćenitih pitanja . Zahtjevi poput "objasnite sve o socijalnoj psihologiji" ili "sažmite trenutno stanje u ovom području" toliko su široki da prisiljavaju model da sažme ogromnu količinu informacija, povećavajući vjerojatnost pogrešaka ili netočnih pojednostavljenja.
Još jedna opasna praksa je slijepo oslanjanje na umjetnu inteligenciju za generiranje doslovnih citata, bibliografskih referenci ili pravnih presuda bez njihove provjere. Upravo u takvim zadacima jezični modeli posebno su skloni izmišljanju naslova, autora ili podataka koji „dobro zvuče“, ali ne postoje.
Također ne pomaže miješanje previše različitih tema u istoj temi . Ako u razgovoru prijeđete s kvantne fizike na pedagogiju, zatim na pravo, a na kraju pričate o povijesti umjetnosti, kontekst chata postaje kaotičan i povećava vjerojatnost da će model nepotrebno prevlačiti koncepte iz jednog područja u drugo.
S gledišta stava, opasna je pogreška tretirati ChatGPT kao izvor apsolutne istine, a ne kao alat za podršku. Baš kao što biste pregledali rad pripravnika, trebali biste pregledati i rezultate modela, posebno ako je u pitanju vaš profesionalni ili akademski ugled.
Konačno, vrijedi zapamtiti da se AI modeli mogu poboljšavati ili pogoršavati tijekom vremena kako se ažuriraju. Ako primijetite da određeni model počinje stvarati više problema s pouzdanošću u određenim vrstama zadataka (na primjer, analiza dugih dokumenata), razmislite o prelasku na drugu varijantu, pokretanju novog, čistog chata ili kombiniranju s drugim specijaliziranim alatima.
Kako živjeti s halucinacijama dok i dalje uživate u ChatGPT-u
Halucinacije neće nestati sutra, ali to ne znači da ChatGPT gubi svoju vrijednost. Ključno je mudro koristiti alat : iskoristiti ono što jako dobro radi (pisanje, generiranje ideja, strukturiranje informacija, pružanje jasnih objašnjenja) i biti puno zahtjevniji kada su u pitanju kritični podaci.
Ako ga koristite za kreativnost, brainstorming ili početno pisanje, halucinacije su obično manje problematične; čak mogu pružiti zanimljive obrate. Međutim, ako ga koristite za istraživanje, tehnička izvješća ili sadržaj koji zahtijeva rigoroznost , mudro je uključiti vlastitu temeljitu recenziju i ne objavljivati ništa bez provjere.
U ovom balansiranju važno je istovremeno prihvatiti dvije istine: modeli poput ChatGPT-a griješe , ponekad i očite, ali istina je i da ljudi griješe. Ako umjetna inteligencija obavlja određeni zadatak s manje grešaka od nas ili nam pomaže značajno smanjiti vrijeme koje ulažemo, ostaje vrlo atraktivna opcija, pod uvjetom da joj ne prepustimo konačnu odgovornost.
U konačnici, vi ste odgovorni za ono što potpisujete svojim imenom, a ne modelom. Okrivljavanje ChatGPT-a za ozbiljnu pogrešku je kao reći "pas ti je pojeo domaću zadaću" : možda zvuči kao izgovor, ali vas ne oslobađa posljedica. Razumno je naučiti prepoznavati zablude, integrirati mehanizme provjere u svoj tijek rada i postupno usavršavati upute i postavke.
Ako kombiniramo bolje modele, nove tehnike obuke usmjerene na procese, integrirane alate za pretraživanje i zrelije korisničko iskustvo, halucinacije će postupno postati manje raširene. Do tada, najmudriji pristup je tretirati ChatGPT onakvim kakav jest: moćan, ali ne i nepogrešiv alat koji može povećati vašu produktivnost sve dok ne uzimate njegove odgovore zdravo za gotovo bez da ih prethodno pregledate.
