- Halusinasi dalam ChatGPT muncul karena model tersebut memprediksi kata-kata, tidak memahami realitas, dan cenderung mengisi kekosongan ketika informasi langka atau ambigu.
- Penggunaan petunjuk yang tepat, dengan konteks yang jelas, batasan yang eksplisit, permintaan sumber, dan pengakuan akan ketidakpastian, jelas mengurangi kemungkinan jawaban yang dibuat-buat.
- Selalu memvalidasi data kunci dengan sumber eksternal dan menggunakan model, metode penalaran, dan konfigurasi yang tepat sangat penting ketika akurasi menjadi hal yang krusial.
- Meskipun industri sedang berupaya mengembangkan teknik pelatihan baru, tanggung jawab utama untuk mendeteksi kesalahan dan meninjau informasi yang dihasilkan tetap berada di tangan pengguna.
Halusinasi di ChatGPT telah menjadi salah satu topik yang paling banyak dibahas setiap kali kecerdasan buatan generatif disebutkan, dan muncul di banyak kesalahan ChatGPT yang umum . Ini adalah respons yang terdengar sangat meyakinkan, ditulis dengan nada percaya diri, tetapi sebenarnya berisi data palsu, kutipan yang dibuat-buat, atau kesimpulan yang tidak didukung. Bagi seseorang yang menggunakannya karena penasaran, ini mungkin bukan masalah, tetapi bagi seseorang yang bergantung pada AI dalam pekerjaan sehari-hari mereka, ini bisa menjadi masalah besar.
Meskipun saat ini tidak mungkin untuk sepenuhnya menghilangkan halusinasi dari model bahasa, kita dapat secara signifikan menguranginya dengan menggabungkan tiga hal: petunjuk yang lebih baik, praktik verifikasi yang baik, dan penyesuaian tertentu pada cara kita menggunakan setiap model. Artikel ini akan menjelaskan secara detail apa itu halusinasi, mengapa hal itu terjadi, apa yang dilakukan industri (dan OpenAI khususnya) untuk menguranginya, dan yang terpenting, bagaimana Anda dapat mengubah penggunaan ChatGPT sehingga menghasilkan lebih sedikit kesalahan.
Apa itu halusinasi di ChatGPT dan mengapa hal itu terjadi?
Dalam konteks AI, halusinasi terjadi ketika model seperti ChatGPT menghasilkan informasi yang salah, dibuat-buat, atau tidak didukung , tetapi menyajikannya dengan cara yang begitu alami sehingga tampak benar. Hal ini tidak terbatas pada satu kesalahan dalam angka; terkadang ia menyusun seluruh paragraf, kutipan langsung, nama studi, atau argumen yang tidak ada dalam sumber yang dapat diandalkan.
Hal ini terjadi karena ChatGPT, seperti model bahasa besar lainnya, tidak memahami dunia seperti yang Anda pahami . Ia tidak bernalar atau memeriksa fakta terhadap basis data waktu nyata; sebaliknya, ia menghitung kata mana yang paling mungkin mengikuti kata sebelumnya, berdasarkan pola yang telah dipelajarinya selama pelatihan. Pada dasarnya, ini adalah sistem pelengkap teks yang sangat canggih.
Ketika pertanyaan yang Anda ajukan selaras dengan apa yang telah diamati model selama pelatihan, biasanya model tersebut akan menjawab dengan benar. Masalah muncul ketika Anda meminta informasi yang sangat spesifik, jarang muncul, atau kurang terwakili dalam data pelatihannya. Dalam situasi ini, model "terpaksa" mengisi kekosongan dengan apa yang dianggapnya sebagai jawaban yang paling mungkin, meskipun tidak ada bukti nyata yang mendukungnya.
Contoh tipikalnya adalah meminta kutipan langsung dari penulis tertentu . Jika data pelatihan tidak berisi kutipan persis tersebut, pengguna mungkin akan mengarang frasa yang "terdengar" seperti kutipan penulis tersebut, mengaitkannya dengan penulis tersebut secara alami, dan terkadang hanya mengakui kesalahan tersebut ketika pengguna bersikeras. Hal yang sama berlaku untuk tanggal, angka, nama diri, atau referensi ke artikel akademis—area yang sangat rentan terhadap halusinasi.
Ada juga faktor penting lainnya: banyak model dilatih untuk selalu menghasilkan respons . Secara terbuka mengakui "Saya tidak tahu" secara historis bukanlah prioritas dalam pelatihan mereka; oleh karena itu, mereka cenderung mengisi informasi bahkan ketika data yang mereka tangani tidak mencukupi atau ambigu.
Bagaimana ChatGPT bekerja secara internal (dan apa artinya bagi halusinasi)
Untuk lebih memahami mengapa ChatGPT begitu sulit diprediksi, ada baiknya mengingat bahwa ini adalah model bahasa yang dilatih menggunakan sejumlah besar teks. Selama pelatihan, ia mempelajari pola: kata-kata mana yang cenderung berpasangan, struktur kalimat mana yang umum dalam artikel ilmiah, bagaimana sebuah berita ditulis, bagaimana sebuah esai disusun, dan sebagainya.
Saat Anda mengajukan pertanyaan, ChatGPT tidak mencari di internet (kecuali pada versi yang mengaktifkan penjelajahan web), tetapi memprediksi, kata demi kata, respons berikutnya yang paling mungkin berdasarkan konteks yang Anda berikan. Itulah mengapa, ketika Anda melihatnya mengetik perlahan di layar, sebenarnya ia sedang menyelesaikan teks secara real-time, tanpa "berpikir" seperti manusia.
Ini menjelaskan mengapa model ini sangat baik dalam meniru gaya, meringkas teks, atau menghasilkan respons yang koheren dari dokumentasi yang Anda berikan, tetapi juga mengapa model ini dapat gagal secara spektakuler ketika Anda meminta data yang membutuhkan akurasi yang tepat. Jika model ragu tentang informasi tersebut, ia cenderung mengisi kekosongan untuk menghindari gangguan pada alur diskusi.
Selain itu, cara AI dilatih memiliki dampak yang signifikan. Secara tradisional, prioritasnya adalah pada model yang menghasilkan jawaban yang bermanfaat dan meyakinkan bagi pengguna , yang terkadang bertentangan dengan akurasi faktual yang ketat. Mencapai keseimbangan ini adalah salah satu tantangan utama industri saat ini.
OpenAI dan strategi industri untuk mengurangi halusinasi
Dalam beberapa tahun terakhir, banyak kritik muncul mengenai halusinasi AI generatif, mulai dari kesalahan dalam demonstrasi publik (seperti kasus terkenal klaim palsu tentang Teleskop Luar Angkasa James Webb) hingga referensi fiktif yang digunakan dalam konteks hukum atau media. Kegagalan semacam ini telah mendorong perusahaan seperti OpenAI untuk memikirkan kembali cara mereka melatih dan mengevaluasi model mereka.
Salah satu bidang penelitian yang sedang dikerjakan OpenAI dikenal sebagai "pemantauan proses ". Alih-alih hanya berfokus pada apakah jawaban akhir benar ("pemantauan hasil"), bidang ini berupaya mengevaluasi dan memberi penghargaan kepada model atas berbagai tahapan penalaran yang dilaluinya untuk sampai pada jawaban tersebut.
Ide dasarnya adalah jika AI diberi penghargaan atas penalaran yang transparan dan koheren , dan bukan hanya karena sampai pada jawaban akhir yang rapi, kemungkinan AI mencapai kesimpulan yang salah tetapi tampak masuk akal akan berkurang. Hal ini juga memungkinkan model untuk menjelaskan langkah-langkah yang telah diambilnya dengan lebih baik, sehingga lebih mendekati "rantai penalaran" seperti manusia.
Namun, terdapat keraguan yang cukup besar di kalangan masyarakat mengenai sejauh mana pendekatan ini benar-benar dapat menghilangkan halusinasi. Para ahli privasi dan etika menyerukan agar diberikan rincian lebih lanjut tentang data dan contoh yang digunakan dalam proses pelatihan ini, serta penelitian independen yang ditinjau oleh rekan sejawat untuk memvalidasi hasilnya.
Untuk saat ini, OpenAI belum menetapkan tanggal pasti untuk peluncuran luas teknik-teknik ini di semua produknya, tetapi mereka telah memperjelas bahwa mengurangi ketidakakuratan adalah prioritas. Sementara itu, tanggung jawab praktis untuk penggunaan yang benar sebagian besar berada di tangan pengguna.
Perubahan perilaku: ketika ChatGPT tampak lebih sering berhalusinasi
Banyak pengguna tetap telah memperhatikan bahwa, seiring waktu, ChatGPT tampaknya lebih rentan terhadap kebingungan, atau kebingungan dengan cara yang berbeda , terutama saat bekerja dengan dokumen panjang, kutipan akademis, atau tugas penelitian. Contoh tipikalnya adalah para peneliti yang mengunggah selusin PDF dan meminta ringkasan, identifikasi tema utama, dan kutipan langsung untuk mendukung kesimpulan mereka.
Keluhan yang sering muncul adalah ketika diminta kutipan langsung beserta referensinya , model tersebut mulai mengarangnya. Bahkan setelah dikoreksi dan diakui, ia tetap membuat kutipan palsu lainnya, dan dalam beberapa obrolan, ia tampak memasuki semacam "lingkaran halusinasi" yang sulit diatasi tanpa memulai percakapan baru.
Masalah lain yang sering disebutkan adalah dampak dari peningkatan memori dan konteks silang . Ketika asisten mengingat preferensi atau topik yang dibahas dalam percakapan lain, ia mungkin mulai mencampuradukkan bidang secara tidak tepat: misalnya, memperkenalkan konsep komputasi kuantum saat menjawab pertanyaan tentang ilmu sosial, hanya karena pengguna menyebutkan mekanika kuantum dalam obrolan lain.
Beberapa orang memilih untuk mencoba alat alternatif yang khusus menganalisis dokumen, seperti sistem yang berfokus pada PDF seperti NotebookLM , setelah menyadari bahwa ChatGPT menghasilkan kutipan yang terdengar sangat masuk akal tetapi sebenarnya tidak ada. Dalam kasus ini, model tersebut tetap menjadi alat yang berguna untuk kreativitas, curah pendapat, atau penyusunan draf awal, tetapi digunakan dengan lebih hati-hati untuk tugas yang membutuhkan ketelitian akademis.
Dalam ekosistem OpenAI, perbedaan antar model juga telah diamati. Versi yang ditujukan untuk penalaran yang lebih presisi, seperti keluarga o3 , cenderung lebih lambat tetapi menghasilkan lebih sedikit ilusi dalam analisis dokumen yang detail. Varian lain, seperti GPT-4o atau model yang lebih ringan, sangat baik untuk kreativitas dan kecepatan, tetapi harus digunakan dengan hati-hati ketika data yang sepenuhnya terverifikasi diperlukan.
Cara meminimalkan halusinasi di ChatGPT dengan petunjuk yang baik
Meskipun desain model tersebut menetapkan batasan, cara Anda mengajukan pertanyaan memiliki dampak yang sangat besar; menyesuaikan ChatGPT dan menyempurnakan petunjuk dapat sangat mengurangi kemungkinan ChatGPT mengarang sesuatu , atau setidaknya memastikan bahwa ia memberi tahu Anda ketika tidak memiliki cukup informasi.
Salah satu kuncinya adalah memberikan konteks yang jelas dan spesifik . Semakin samar instruksinya, semakin banyak ruang yang dimiliki model untuk diisi dengan asumsi. Alih-alih bertanya, “Apa sejarah Meksiko?”, jauh lebih baik untuk menentukan: “Jelaskan tiga penyebab utama dimulainya Kemerdekaan Meksiko, dukung jawaban Anda dengan sumber-sumber sejarah yang diakui.”
Membatasi cakupan informasi juga sangat membantu . Jika Anda memberi mereka dokumen atau serangkaian teks, beri tahu mereka bahwa respons mereka harus didasarkan secara eksklusif pada materi tersebut: “Jawab hanya menggunakan informasi yang terdapat dalam artikel-artikel ini. Jika ada sesuatu yang tidak ada di dalamnya, katakan Anda tidak memiliki cukup data.” Ini mengurangi godaan bagi model untuk menggunakan pengetahuan yang samar-samar dari pelatihan umum mereka.
Strategi ampuh lainnya adalah meminta sumber atau pengakuan atas ketidakpastian . Frasa seperti “Jika Anda tidak yakin, katakan secara eksplisit bahwa Anda tidak tahu” atau “Jangan mengarang informasi; jika ada data yang hilang, tunjukkan” mengarahkan model untuk memprioritaskan kejujuran daripada kelancaran. Meskipun tidak sepenuhnya sempurna, ini biasanya mengurangi tingkat pemalsuan yang terang-terangan.
Jika Anda memiliki akses ke API, Anda dapat menyesuaikan suhu model . Nilai rendah (mendekati 0) membuat output lebih konservatif dan dapat diulang, mengurangi tingkat kreativitas dan, oleh karena itu, risiko halusinasi. Anda tidak dapat mengubah parameter ini secara langsung di antarmuka web, tetapi Anda dapat meminta sesuatu yang serupa dengan instruksi seperti: "Jawab secara objektif, tanpa spekulasi atau opini."
Praktik terbaik untuk mendeteksi dan memvalidasi kemungkinan halusinasi
Selain meningkatkan kualitas perintah, sangat penting untuk mengadopsi rutinitas verifikasi yang sistematis . Teknik yang sama yang kita gunakan untuk mendeteksi hoaks daring dapat digunakan untuk mengidentifikasi respons AI yang mencurigakan.
Rekomendasi pertama hampir merupakan akal sehat, tetapi perlu diulang: selalu verifikasi informasi penting dengan sumber eksternal yang andal. Jika ChatGPT memberi Anda data numerik, tanggal, nama penulis, atau referensi studi, periksa di situs web resmi, basis data akademik, buku, atau artikel referensi; misalnya, lihat daftar tugas di mana ChatGPT gagal menemukan contoh yang relevan.
Sangat membantu juga untuk meminta model tersebut menunjukkan penalaran mereka langkah demi langkah . Instruksi seperti "Jelaskan kepada saya bagaimana Anda sampai pada kesimpulan itu, langkah demi langkah" memungkinkan Anda untuk mendeteksi celah logika atau lompatan yang tidak beralasan. Jika Anda melihat bahwa "alur" tersebut tidak masuk akal, jawabannya mungkin didasarkan pada halusinasi.
Memecah pertanyaan besar menjadi sub-pertanyaan spesifik membantu mencegah model harus mencakup terlalu banyak konteks sekaligus. Alih-alih mengajukan pertanyaan makro tentang seluruh bidang, tanyakan terlebih dahulu tentang teori-teori utama, kemudian tentang penulis-penulis kunci, lalu tentang bukti empiris, dan seterusnya. Dengan cara ini, Anda dapat memvalidasi setiap blok secara independen.
Pada versi ChatGPT dengan pencarian internet , seperti beberapa paket berbayar dengan fitur penelusuran yang diaktifkan, ada baiknya mengaktifkan fitur ini ketika Anda membutuhkan informasi terkini. Meskipun ini tidak menghilangkan halusinasi, ini mengurangi risikonya karena model tersebut bergantung pada dokumen nyata dan bukan hanya pada memori statistik.
Salah satu trik menarik adalah mengulang perintah yang sama dengan sedikit variasi . Jika model memberikan jawaban yang kontradiktif untuk pertanyaan yang hampir identik, itu merupakan indikasi yang baik bahwa model tersebut mungkin mengarang atau mengekstrapolasi secara tidak andal. Dalam kasus seperti itu, disarankan untuk melakukan verifikasi eksternal secara menyeluruh.
Terakhir, jika Anda menggunakan API atau konfigurasi lanjutan, tetapkan instruksi sistem permanen seperti: “Jika Anda tidak yakin dengan suatu informasi, jawablah 'Saya tidak memiliki cukup informasi' dan jangan mencoba menebak.” Ini tidak sepenuhnya menghilangkan masalah, tetapi menetapkan standar kejujuran yang lebih ketat.
Konfigurasi dan mode penggunaan yang mengurangi kesalahan
Selain petunjuk yang sudah ada, terdapat beberapa pengaturan di dalam ChatGPT yang dapat membantu Anda meminimalkan respons yang dibuat-buat , terutama jika Anda menggunakannya setiap hari untuk topik sensitif seperti penelitian, sains, atau hukum.
Jika Anda memiliki akses ke model canggih dengan pencarian web terintegrasi , mengaktifkannya saat bekerja dengan data yang berubah dengan cepat (peristiwa terkini, peraturan, literatur terbaru) adalah ide yang bagus. Dengan mengandalkan informasi waktu nyata, AI memiliki lebih banyak pilihan untuk perbandingan dan lebih sedikit kebutuhan untuk mengisi celah dengan intuisi statistik.
Yang disebut mode penalaran tingkat lanjut , seperti model yang berfokus pada akurasi analitis (misalnya, keluarga o3), dirancang untuk memprioritaskan ketelitian daripada kecepatan. Meskipun mungkin membutuhkan waktu lebih lama untuk menghasilkan jawaban, model ini cenderung membuat lebih sedikit kesalahan serius dalam masalah logika, matematika, atau analisis dokumen yang detail.
Fitur utama lainnya adalah instruksi khusus ChatGPT . Di pengaturan, Anda dapat menentukan jenis respons yang Anda sukai: lebih teknis, lebih edukatif, lebih hati-hati, dll. Misalnya, Anda dapat memberi tahu ChatGPT untuk memprioritaskan akurasi daripada kreativitas, untuk selalu mengutip sumber ketika tidak sepenuhnya yakin, atau untuk memperingatkan Anda jika sedang berspekulasi.
Saat menggunakan ChatGPT untuk riset, penting untuk memberikan konteks yang kaya, penuh dengan referensi yang jelas , terutama jika Anda meminta analisis artikel atau ringkasan akademis. Menyertakan sumber yang andal dalam pertanyaan itu sendiri dan memperjelas bahwa respons harus didasarkan pada dokumen-dokumen tersebut akan mengurangi kemungkinan model tersebut mengandalkan informasi yang samar.
Jangan lupa bahwa model yang berbeda memiliki profil risiko yang berbeda . Model yang ringan mungkin bagus untuk menghasilkan ide-ide kreatif ("Beri saya 20 cara untuk sampai dari X ke Y"), tetapi bukan pilihan terbaik untuk mengekstrak kutipan yang tepat dari sebuah makalah. Sebaliknya, model yang lebih berat mungkin merupakan pilihan yang tepat untuk analisis mendalam, meskipun lebih lambat. Beberapa penyesuaian ini berasal dari parameter kecerdasan buatan yang membentuk model tersebut.
Kesalahan umum pengguna yang memicu halusinasi
Banyak halusinasi yang kita lihat setiap hari bukan hanya disebabkan oleh model itu sendiri, tetapi juga oleh cara kita menggunakannya. Ada sejumlah pola penggunaan yang hampir mengundang AI untuk melakukan kesalahan , dan penting untuk mengidentifikasinya.
Salah satu kesalahan yang paling umum adalah mengajukan pertanyaan yang terlalu umum . Permintaan seperti "jelaskan segala sesuatu tentang psikologi sosial" atau "ringkas keadaan terkini di bidang ini" sangat luas sehingga memaksa model untuk meringkas sejumlah besar informasi, meningkatkan kemungkinan kesalahan atau penyederhanaan yang tidak akurat.
Praktik berbahaya lainnya adalah mengandalkan AI secara membabi buta untuk menghasilkan kutipan verbatim, referensi bibliografi, atau putusan hukum tanpa memverifikasinya. Justru dalam jenis tugas inilah model bahasa sangat rentan untuk mengarang judul, penulis, atau data yang "terdengar bagus" tetapi sebenarnya tidak ada.
Mencampur terlalu banyak topik berbeda dalam satu percakapan juga tidak membantu . Jika dalam percakapan Anda beralih dari fisika kuantum ke pedagogi, lalu ke hukum, dan akhirnya membahas sejarah seni, konteks obrolan menjadi kacau dan meningkatkan kemungkinan model tersebut akan menyeret konsep dari satu bidang ke bidang lain secara tidak perlu.
Dari sudut pandang sikap, kesalahan berbahaya adalah memperlakukan ChatGPT seolah-olah itu adalah sumber kebenaran mutlak, bukan hanya alat bantu. Sama seperti Anda meninjau pekerjaan seorang magang, Anda juga harus meninjau hasil dari model tersebut, terutama jika reputasi profesional atau akademis Anda dipertaruhkan.
Terakhir, perlu diingat bahwa model AI dapat meningkat atau menurun seiring waktu karena terus diperbarui. Jika Anda menyadari bahwa model tertentu mulai menimbulkan lebih banyak masalah keandalan dalam jenis tugas tertentu (misalnya, menganalisis dokumen panjang), pertimbangkan untuk beralih ke varian yang berbeda, memulai obrolan baru yang bersih, atau menggabungkannya dengan alat khusus lainnya.
Cara hidup dengan halusinasi sambil tetap menikmati ChatGPT
Halusinasi tidak akan hilang besok, tetapi itu tidak berarti ChatGPT kehilangan nilainya. Kuncinya adalah menggunakan alat ini dengan bijak : manfaatkan apa yang dilakukannya dengan sangat baik (menulis, menghasilkan ide, menyusun informasi, memberikan penjelasan yang jelas) dan bersikaplah jauh lebih kritis ketika data penting mulai berperan.
Jika Anda menggunakannya untuk kreativitas, curah pendapat, atau penulisan awal, halusinasi biasanya kurang bermasalah; bahkan dapat memberikan sentuhan menarik. Namun, jika Anda menggunakannya untuk penelitian, laporan teknis, atau konten yang membutuhkan ketelitian , sebaiknya Anda melakukan tinjauan menyeluruh sendiri dan tidak menerbitkan apa pun tanpa memverifikasinya.
Dalam upaya menyeimbangkan ini, penting untuk menerima dua kebenaran secara bersamaan: model seperti ChatGPT membuat kesalahan , terkadang kesalahan yang sangat mencolok, tetapi juga benar bahwa manusia membuat kesalahan. Jika AI melakukan tugas tertentu dengan lebih sedikit kesalahan daripada kita atau membantu kita mengurangi waktu yang kita investasikan secara signifikan, AI tetap menjadi pilihan yang sangat menarik, asalkan kita tidak mendelegasikan tanggung jawab akhir kepadanya.
Pada akhirnya, Anda bertanggung jawab atas apa yang Anda tandatangani dengan nama Anda, bukan modelnya. Menyalahkan ChatGPT atas kesalahan serius sama seperti mengatakan "anjingmu memakan pekerjaan rumahmu" : mungkin terdengar seperti alasan, tetapi itu tidak membebaskan Anda dari konsekuensinya. Hal yang bijaksana adalah belajar mengidentifikasi kesalahan, mengintegrasikan mekanisme verifikasi ke dalam alur kerja Anda, dan secara bertahap memperbaiki petunjuk dan pengaturan.
Jika kita menggabungkan model yang lebih baik, teknik pelatihan baru yang berfokus pada proses, alat pencarian terintegrasi, dan pengalaman pengguna yang lebih matang, halusinasi secara bertahap akan menjadi kurang umum. Sampai saat itu, pendekatan yang paling bijaksana adalah memperlakukan ChatGPT sebagaimana adanya: alat yang ampuh tetapi tidak sempurna yang dapat meningkatkan produktivitas Anda selama Anda tidak menerima responsnya begitu saja tanpa terlebih dahulu meninjaunya.
