Cum să minimizezi halucinațiile în ChatGPT

Informatec Digital » Recursos » Cum să minimizezi halucinațiile în ChatGPT

Las halucinații în ChatGPT Acestea au devenit unul dintre cele mai discutate subiecte ori de câte ori vorbim despre inteligența artificială generativă și apar în multe Erori tipice ChatGPTAcestea sunt răspunsurile care sună foarte convingător, scrise pe un ton încrezător, dar care de fapt conțin date false, citate fabricate sau concluzii nefondate. Pentru cineva care îl folosește din curiozitate, s-ar putea să nu fie o mare problemă, dar pentru cineva care se bazează pe inteligența artificială în munca sa zilnică, poate fi o adevărată bătaie de cap.

Deși este imposibil astăzi elimină complet halucinațiile Pornind de la un model lingvistic, putem reduce semnificativ aceste erori combinând trei lucruri: solicitări mai bune, practici bune de verificare și anumite ajustări ale modului în care utilizăm fiecare model. În acest articol, veți vedea în detaliu ce sunt aceste anomalii, de ce apar, ce face industria (și OpenAI în special) pentru a le atenua și, mai presus de toate, cum puteți schimba utilizarea ChatGPT astfel încât să facă mult mai puține greșeli.

Ce sunt halucinațiile în ChatGPT și de ce apar?

În contextul inteligenței artificiale, o halucinație este atunci când un model precum ChatGPT generează informații incorecte, fabricate sau nefondateDar este scris atât de natural încât pare adevărat. Nu se limitează la o singură eroare într-un număr; uneori construiește paragrafe întregi, include citate directe, nume de studii sau argumente care nu există în nicio sursă de încredere.

Acest lucru se întâmplă deoarece ChatGPT, la fel ca alte modele lingvistice importante, El nu înțelege lumea așa cum o înțelegi tu.Nu raționează și nu verifică faptele în raport cu o bază de date în timp real; în schimb, calculează care cuvânt este cel mai probabil să urmeze precedentul, pe baza tiparelor pe care le-a învățat în timpul antrenamentului. În esență, este un program de completare a textului extrem de sofisticat.

Când întrebarea pe care o pui se aliniază bine cu ceea ce au văzut în timpul antrenamentului, modelul o face de obicei corect. Problema apare atunci când îi pui informații foarte specifice, rare sau slab reprezentate în datele sale de antrenament. În aceste situații, este „forțat” să completeze golurile cu ceea ce consideră a fi cel mai probabil răspuns, chiar dacă nu există nicio justificare reală care să o susțină.

Un exemplu tipic este solicitarea unui citat direct de la un anumit autorDacă datele de antrenament nu conțin exact citatul respectiv, poți inventa o frază care „sună” ca cea a autorului respectiv, o poți atribui în mod natural și, uneori, poți recunoaște greșeala doar atunci când utilizatorul insistă. Același lucru este valabil și pentru date, figuri, nume proprii sau referințe la articole academice - domenii deosebit de susceptibile la halucinații.

Există și un alt factor important: multe modele sunt antrenate să produce întotdeauna un răspunsRecunoașterea deschisă a răspunsului „nu știu” nu a fost dintotdeauna o prioritate în instruirea lor, prin urmare, tind să completeze informații chiar și atunci când datele pe care le au sunt insuficiente sau ambigue.

Cum funcționează ChatGPT intern (și ce înseamnă pentru halucinații)

Pentru a înțelege mai bine de ce ChatGPT are halucinații, merită să ne amintim că este o model de limbaj Este antrenat cu cantități enorme de text. În timpul antrenamentului, învață tipare: ce cuvinte merg adesea împreună, ce structuri de propoziții sunt tipice într-un articol științific, cum este formulată o știre, cum este argumentat un eseu și așa mai departe.

Când îi pui o întrebare, ChatGPT nu caută pe internet (cu excepția versiunilor cu navigare activată), ci în schimb prezice cuvânt cu cuvânt Care ar trebui să fie următorul rezultat cel mai probabil, pe baza contextului pe care i l-ai dat? De aceea, atunci când îl vezi tastând încet pe ecran, completează de fapt textul în timp real, fără să „gândească” așa cum ar face o persoană.

Asta explică de ce este atât de bun la imitarea stilurilor, la rezumarea textelor sau la generarea de răspunsuri coerente din documentația pe care o oferiți, dar și de ce poate eșua spectaculos Când îi ceri date care necesită o precizie extremă, dacă datele nu sunt clare, modelul tinde să „completeze” pentru a evita perturbarea fluxului discursului.

În plus, modul în care este antrenată inteligența artificială are un impact semnificativ. În mod tradițional, prioritatea a fost pusă pe producerea de modele. răspunsuri utile și convingătoare pentru utilizatorUneori, acest lucru intră în conflict cu stricta acuratețe factuală. Găsirea acestui echilibru este una dintre principalele provocări actuale ale industriei.

OpenAI și strategii industriale pentru reducerea halucinațiilor

În ultimii ani, au apărut numeroase critici cu privire la halucinațiile IA generative, de la erori în demonstrațiile publice (cum ar fi celebrul caz al unei afirmații false despre Telescopul Spațial James Webb) până la mențiuni fictive utilizate în contexte juridice sau media. Acest tip de eșec a determinat companii precum OpenAI să regândească modul în care își antrenează și evaluează modelele.

Una dintre liniile de lucru pe care OpenAI le dezvoltă în prezent este cunoscută sub numele de „supravegherea procesului”În loc să se concentreze exclusiv asupra corectitudinii răspunsului final („monitorizarea rezultatelor”), modelul este evaluat și recompensat pentru diferitele etape de raționament pe care le urmează pentru a ajunge la răspunsul respectiv.

Ideea este că, dacă IA este recompensată pentru raționează într-un mod transparent și coerentȘi nu doar pentru că răspunsul final se potrivește bine, ci și pentru că probabilitatea de a ajunge la concluzii false, dar aparent valide, este redusă. Acest lucru permite, de asemenea, modelului să explice mai bine pașii pe care i-a urmat, apropiindu-l de un „lanț de raționament” asemănător cu cel uman.

Totuși, există destul de mult scepticismul în comunitate asupra măsurii în care această abordare poate elimina complet halucinațiile. Experți în confidențialitate și etică Aceștia solicită mai multe detalii despre datele și exemplele utilizate în aceste procese de instruire, precum și cercetări independente, evaluate de colegi, care să valideze rezultatele.

Deocamdată, OpenAI nu a stabilit o dată clară pentru implementarea pe scară largă a acestor tehnici în toate produsele sale, dar a precizat clar că reduce inexactitățile Este o prioritate. Între timp, responsabilitatea practică pentru utilizarea sa corectă revine în mare măsură utilizatorului.

Schimbare de comportament: când ChatGPT pare să aibă mai multe halucinații

Mulți utilizatori obișnuiți au observat că, în timp, ChatGPT pare să halucineze mai mult sau într-un mod diferit.Acest lucru este valabil mai ales atunci când se lucrează cu documente lungi, citări academice sau lucrări de cercetare. Un exemplu tipic îl reprezintă cercetătorii care încarcă o duzină de PDF-uri și solicită rezumate, identificarea temelor cheie și citate directe pentru a-și susține concluziile.

O plângere recurentă este că, atunci când este întrebat citate directe cu referințăModelul începe să inventeze lucruri. Chiar și atunci când este corectat și greșeala este recunoscută, generează mai multe citate false, iar în unele conversații pare să intre într-un fel de „buclă de halucinații” din care este dificil să-l scoți fără a începe o nouă conversație.

O altă problemă adesea menționată este impactul Memorie îmbunătățită și contextualizare încrucișatăCând asistentul își amintește preferințe sau subiecte discutate în alte conversații, este posibil să înceapă să amestece câmpuri fără niciun motiv aparent: de exemplu, introducerea conceptelor de calcul cuantic atunci când răspunde la întrebări despre științe sociale, pur și simplu pentru că utilizatorul a vorbit despre fizica cuantică într-o altă conversație.

Unii oameni au ales să încercați instrumente alternative specializate în analiza documentelor, cum ar fi sistemele axate pe citirea PDF-urilor, cum ar fi NotebookLMDupă ce am observat că ChatGPT inventa citate care păreau foarte plauzibile, dar nu existau, modelul rămâne un instrument util pentru creativitate, brainstorming sau redactare preliminară, dar este utilizat cu mai multă precauție pentru sarcinile care necesită precizie academică.

În cadrul ecosistemului OpenAI, au fost observate și diferențe între modele. Versiunile orientate către raționament mai precis, cum ar fi familia o3Acestea tind să fie mai lente, dar generează mai puține erori în analiza detaliată a documentelor. Alte variante, cum ar fi GPT-4o sau modele mai ușoare, sunt foarte bune pentru creativitate și viteză, dar ar trebui utilizate cu precauție atunci când sunt necesare date complet verificate.

Cum să minimizezi halucinațiile în ChatGPT cu prompturi bune

Deși designul modelului stabilește o limită, modul în care pui întrebările are o influență uriașă; personalizați ChatGPT și finisarea prompturilor poate reduce considerabil probabilitatea ca ChatGPT să inventeze lucruri sau cel puțin să te avertizeze când nu are suficiente informații.

Una dintre chei este de a oferi o context clar și specificCu cât instrucțiunea este mai vagă, cu atât modelul are mai mult spațiu pentru a completa cu presupuneri. În loc să întrebați: „Care este istoria Mexicului?”, este mult mai bine să specificați: „Explicați trei cauze principale ale începutului independenței mexicane, susținându-vă răspunsul cu surse istorice recunoscute.”

De asemenea, este foarte util limitarea domeniului de aplicare al informațiilorDacă le oferiți un document sau un set de texte, spuneți-le că răspunsul lor trebuie să se bazeze exclusiv pe materialul respectiv: „Răspundeți doar folosind informațiile conținute în aceste articole. Dacă ceva nu se află în ele, spuneți că nu aveți suficiente date.” Acest lucru reduce tentația modelului de a se baza pe cunoștințe vagi din pregătirea sa generală.

O altă strategie puternică este solicitarea surselor sau recunoașterea incertitudiniiExpresii precum „Dacă nu ești sigur, spune explicit că nu știi” sau „Nu inventa informații; dacă lipsesc date, indică-le” ghidează modelul să acorde prioritate onestității în detrimentul fluenței. Deși nu este infailibil, acest lucru reduce de obicei rata invențiilor flagrante.

Dacă aveți acces la API, puteți juca cu temperatura modeluluiValorile mici (aproape de 0) fac rezultatul mai conservativ și mai repetabil, reducând nivelul de creativitate și, prin urmare, riscul de halucinații. Nu puteți modifica direct acest parametru în interfața web, dar puteți solicita ceva similar cu instrucțiuni de genul: „Răspundeți obiectiv, fără a specula sau a oferi opinii”.

Bune practici pentru detectarea și validarea posibilelor halucinații

Pe lângă îmbunătățirea solicitărilor, este esențial să se adopte o rutină de verificare sistematicăAceleași tehnici pe care le folosim pentru a detecta farsele de pe internet pot fi folosite pentru a identifica răspunsuri dubioase ale inteligenței artificiale.

Prima recomandare este aproape de bun simț, dar merită repetată: Compară întotdeauna informațiile cheie cu surse externe fiabile. Dacă ChatGPT vă oferă date numerice, date, nume de autori sau referințe de studiu, verificați-le pe site-uri web oficiale, baze de date academice, cărți sau articole de referință; de exemplu, consultați liste de sarcini în care ChatGPT eșuează să aibă cazuri de referință.

De asemenea, este foarte util să-i cerem modelului să Arată-ți raționamentul pas cu pasInstrucțiuni precum „Explică-mi cum ai ajuns la această concluzie, pas cu pas” îți permit să detectezi lacune logice sau salturi nejustificate. Dacă observi că „calea” nu are sens, răspunsul se bazează probabil pe o halucinație.

Împărțirea problemelor mari în sub-întrebări specifice Acest lucru ajută la evitarea acoperirii de către model a unui prea mare context simultan. În loc să formulați o macro-interogare despre un întreg domeniu, întrebați mai întâi despre principalele teorii, apoi despre autorii cheie, apoi despre dovezile empirice și așa mai departe. În acest fel, puteți valida fiecare bloc independent.

În versiunile ChatGPT cu căutare pe internetLa fel ca în cazul unor metode de plată cu navigare activată, merită să activați această funcție atunci când aveți nevoie de informații actualizate. Deși acest lucru nu elimină halucinațiile, reduce riscul, deoarece modelul se bazează pe documente reale, în loc să se bazeze exclusiv pe memoria statistică.

Un truc interesant implică Repetați aceeași solicitare cu mici variațiiDacă modelul oferă răspunsuri contradictorii la întrebări practic identice, este un bun indiciu că ar putea fabrica sau extrapola în mod nefiabil. În astfel de cazuri, este recomandabil să se efectueze o verificare externă riguroasă.

În cele din urmă, dacă utilizați API-ul sau configurații avansate, definiți instrucțiuni de sistem permanente, cum ar fi: „Dacă nu sunteți sigur de o informație, răspundeți «Nu am suficiente informații» și nu încercați să ghiciți.” Acest lucru nu elimină complet problema, dar stabilește un standard mai strict de onestitate.

Configurații și moduri de utilizare care reduc erorile

Dincolo de solicitări, există anumite setări în ChatGPT care te pot ajuta minimizarea răspunsurilor inventatemai ales dacă îl folosești zilnic pentru subiecte sensibile, cum ar fi cercetarea, știința sau dreptul.

Dacă aveți acces la modele avansate cu căutare web integratăActivarea lor atunci când se lucrează cu date în continuă schimbare (evenimente actuale, reglementări, literatură recentă) este o idee bună. Bazându-se pe informații în timp real, IA are mai multe opțiuni de verificare și mai puțină nevoie de a completa lacunele cu intuiție statistică.

Așa-numitul moduri avansate de raționamentModelele axate mai mult pe acuratețea analitică (cum ar fi familia o3) sunt concepute pentru a prioritiza rigoarea în detrimentul vitezei. Acestea pot necesita mai mult timp pentru a genera un răspuns, dar tind să facă mai puține erori grave în problemele logice, matematice sau de analiză detaliată a documentelor.

O altă resursă cheie este Instrucțiuni personalizate ChatGPTDin setări, îi poți spune ce tip de răspunsuri preferi: mai tehnice, mai educative, mai precaute etc. De exemplu, îi poți spune să acorde prioritate acurateței în detrimentul creativității, să citeze întotdeauna atunci când nu este complet sigur sau să avertizeze dacă speculează.

Când utilizați ChatGPT pentru cercetare, este recomandabil să oferiți un context bogat, plin de referințe clareMai ales dacă solicitați analize ale unor articole sau rezumate academice. Includerea unor surse de încredere chiar în cadrul solicitării și clarificarea faptului că răspunsul ar trebui să se bazeze pe aceste documente va reduce probabilitatea ca modelul să se bazeze pe informații vagi.

Nu uitați că diferite modele au diferite profiluri de riscUn model ușor ar putea fi excelent pentru generarea de idei creative („Dă-mi 20 de moduri de a ajunge de la X la Y”), dar s-ar putea să nu fie cea mai bună opțiune pentru extragerea de citate exacte dintr-o lucrare. În schimb, un model mai complex ar putea fi alternativa potrivită pentru o analiză detaliată, chiar dacă este mai lent. Unele dintre aceste ajustări provin din parametrii inteligenței artificiale care modelează modelele.

Erori frecvente ale utilizatorilor care declanșează halucinații

Multe dintre halucinațiile pe care le vedem zilnic nu se datorează doar modelului în sine, ci și modului în care îl folosim. Există o serie de modele de utilizare care aproape invită inteligența artificială să facă greșeliși este recomandabil să fie identificați.

Una dintre cele mai frecvente greșeli este lansarea întrebări prea generaleCereri precum „explicați totul despre psihologia socială” sau „rezumați stadiul actual al tehnicii în acest domeniu” sunt atât de generale încât împing modelul să condenseze o cantitate imensă de informații, crescând probabilitatea unor erori sau simplificări inexacte.

O altă practică periculoasă este încrederea oarbă în inteligența artificială pentru a genera citate literale, referințe bibliografice sau hotărâri judecătorești fără a le verifica. Tocmai în acest tip de sarcină modelele lingvistice sunt deosebit de predispuse să inventeze titluri, autori sau date care „sună bine”, dar nu există.

Nici amestecarea prea multă nu ajută. Subiecte foarte diferite în același fir de discuțieDacă într-o conversație treci de la a vorbi despre fizica cuantică la pedagogie, apoi la drept și ajungi la istoria artei, contextul discuției devine haotic și crește probabilitatea ca modelul să târască concepte dintr-un domeniu în altul fără niciun motiv.

În ceea ce privește atitudinea, o greșeală periculoasă este să tratăm ChatGPT ca și cum ar fi o sursă de adevăr absolut în loc de un instrument de sprijin. Așa cum ați evalua munca unui stagiar, ar trebui să evaluați și ceea ce produce modelul, mai ales dacă este în joc reputația dumneavoastră profesională sau academică.

În cele din urmă, merită să ne amintim că modelele de inteligență artificială pot se îmbunătățesc sau se înrăutățesc în timp pe măsură ce sunt actualizate. Dacă observați că un anumit model începe să vă ofere mai multe probleme de fiabilitate în anumite tipuri de sarcini (de exemplu, analizarea documentelor lungi), luați în considerare schimbarea variantelor, deschiderea unui chat nou, curat sau combinarea acestuia cu alte instrumente specializate.

Cum să trăiești cu halucinații în timp ce te bucuri în continuare de ChatGPT

Halucinațiile nu vor dispărea mâine, dar asta nu înseamnă că ChatGPT își pierde valoarea. Cheia constă în folosește instrumentul cu judecată: profită de ceea ce face foarte bine (scrie, generează idei, structurează informații, explică didactic) și fii mult mai exigent atunci când intră în joc date critice.

Dacă îl folosești pentru creativitate, brainstorming sau scriere inițială, halucinațiile tind să fie mai puțin problematice; pot chiar oferi răsturnări de situație interesante. Totuși, dacă îl folosești pentru cercetări, rapoarte tehnice sau conținut care necesită rigurozitateCel mai prudent lucru de făcut este să includeți propria analiză amănunțită și să nu publicați nimic fără a o fi verificat.

În acest echilibru, este recomandabil să acceptăm două adevăruri în același timp: modele precum ChatGPT fac greseliUneori este evident, dar este, de asemenea, adevărat că oamenii greșesc. Dacă inteligența artificială îndeplinește o sarcină specifică cu mai puține defecte decât noi sau ne ajută să reducem semnificativ timpul petrecut cu aceasta, rămâne o opțiune foarte atractivă, atâta timp cât nu îi delegăm responsabilitatea finală.

În cele din urmă, tu ești responsabil pentru ceea ce semnezi cu numele tău, nu pentru model. A da vina pe ChatGPT pentru o eroare gravă este ca și cum ai spune că... „Câinele a mâncat tema”Poate suna ca o scuză, dar nu te absolvă de consecințe. Cel mai sensibil lucru de făcut este să înveți să identifici halucinațiile, să integrezi mecanisme de verificare în fluxul tău de lucru și să rafinezi treptat solicitările și setările.

Dacă combinăm modele mai bune, tehnici noi de antrenament axate pe procese, instrumente de căutare integrate și un comportament al utilizatorilor mai maturi, halucinațiile vor deveni treptat mai puțin frecvente. Până atunci, cea mai inteligentă abordare este să tratăm ChatGPT pentru ceea ce este: un instrument puternic, dar nu infailibilceea ce îți poate multiplica productivitatea atâta timp cât nu iei răspunsurile lor ad litteram fără să le verifici mai întâi.

Articol asociat:

Totul despre inteligența artificială generativă: cum funcționează, utilizări și riscuri