كيفية تقليل الهلوسة في ChatGPT

إنفورماتيك ديجيتال » موارد » كيفية تقليل الهلوسة في ChatGPT

أصبحت الهلوسات في ChatGPT من أكثر المواضيع تداولًا عند الحديث عن الذكاء الاصطناعي التوليدي، وتظهر في العديد من أخطاء ChatGPT الشائعة . تتمثل هذه الهلوسات في ردود تبدو مقنعة للغاية، مكتوبة بنبرة واثقة، ولكنها في الواقع تحتوي على بيانات خاطئة، أو اقتباسات ملفقة، أو استنتاجات غير مدعومة. قد لا يمثل هذا مشكلة لمن يستخدمه بدافع الفضول، ولكنه قد يُسبب إزعاجًا كبيرًا لمن يعتمد على الذكاء الاصطناعي في عمله اليومي.

مع أنه من المستحيل حاليًا القضاء تمامًا على الأخطاء في نموذج اللغة، إلا أنه يمكننا الحد منها بشكل كبير من خلال الجمع بين ثلاثة عناصر: تحسين التوجيهات، وتطبيق ممارسات تحقق جيدة، وإجراء تعديلات معينة على كيفية استخدام كل نموذج. ستشرح هذه المقالة بالتفصيل ماهية هذه الأخطاء، وأسباب حدوثها، وما يفعله قطاع الذكاء الاصطناعي (وشركة OpenAI تحديدًا) للتخفيف منها، والأهم من ذلك، كيف يمكنك تعديل استخدامك لنموذج ChatGPT لتقليل أخطائه بشكل ملحوظ.

ما هي الهلوسات في برنامج ChatGPT ولماذا تحدث؟

في سياق الذكاء الاصطناعي، يحدث ما يُعرف بالوهم عندما يُولّد نموذج مثل ChatGPT معلومات غير صحيحة أو مُختلقة أو غير مدعومة ، ولكنه يُقدّمها بطريقة طبيعية تجعلها تبدو صحيحة. ولا يقتصر الأمر على خطأ واحد في رقم ما، بل قد يُنشئ النموذج فقرات كاملة، أو اقتباسات مباشرة، أو أسماء دراسات، أو حججًا لا وجود لها في أي مصدر موثوق.

يحدث هذا لأن ChatGPT، كغيره من نماذج اللغة الكبيرة، لا يفهم العالم بالطريقة التي تفهمه بها . فهو لا يعتمد على الاستدلال أو التحقق من الحقائق بالرجوع إلى قاعدة بيانات آنية؛ بل يحسب الكلمة التي يُرجح أن تلي الكلمة السابقة، بناءً على أنماط تعلمها خلال تدريبه. باختصار، هو نظام متطور للغاية لإكمال النصوص.

عندما يتوافق السؤال الذي تطرحه مع ما لاحظه النموذج أثناء التدريب، فإنه عادةً ما يُجيب إجابة صحيحة. تكمن المشكلة عندما تطلب معلومات محددة للغاية، أو نادرة، أو غير ممثلة بشكل كافٍ في بيانات التدريب. في هذه الحالات، يُضطر النموذج إلى ملء الفراغات بما يعتبره الإجابة الأرجح، حتى لو لم يكن هناك ما يدعمها من واقع.

من الأمثلة الشائعة على ذلك طلب اقتباس مباشر من مؤلف معين . إذا لم تتضمن بيانات التدريب ذلك الاقتباس تحديدًا، فقد يبتكر المستخدم عبارة تُشبه عبارة ذلك المؤلف، وينسبها إليه بشكل طبيعي، وأحيانًا لا يعترف بالخطأ إلا عندما يُصرّ المستخدم. وينطبق الأمر نفسه على التواريخ والأرقام والأسماء العلمية أو المراجع للمقالات الأكاديمية، وهي مجالات عُرضة بشكل خاص للأوهام.

وهناك عامل مهم آخر: يتم تدريب العديد من النماذج على تقديم استجابة دائماً . ولم يكن الاعتراف الصريح بعبارة "لا أعرف" أولوية في تدريبها تاريخياً؛ لذا، فإنها تميل إلى استكمال المعلومات حتى عندما تكون البيانات التي تتعامل معها غير كافية أو غامضة.

كيف يعمل برنامج ChatGPT داخليًا (وماذا يعني ذلك بالنسبة للهلوسة)

لفهم سبب عدم القدرة على التنبؤ بنتائج ChatGPT، من المفيد تذكر أنه نموذج لغوي مُدرَّب على كميات هائلة من النصوص. أثناء التدريب، يتعلم أنماطًا: الكلمات التي تميل إلى التلازم، وتراكيب الجمل الشائعة في المقالات العلمية، وكيفية كتابة الأخبار، وكيفية عرض الحجج في المقالات، وما إلى ذلك.

عندما تطرح سؤالاً على ChatGPT، فإنه لا يبحث في الإنترنت (إلا في الإصدارات التي تُفعّل تصفح الويب)، بل يتنبأ، كلمةً كلمة، بالإجابة التالية الأكثر ترجيحاً بناءً على السياق الذي قدمته. ولهذا السبب، عندما تراه يكتب ببطء على الشاشة، فهو في الواقع يُكمل النص في الوقت الفعلي، دون أن "يفكر" كما يفعل الإنسان.

هذا يفسر سبب براعته في محاكاة الأساليب، وتلخيص النصوص، أو توليد ردود متماسكة من الوثائق التي تقدمها، ولكنه يفسر أيضاً سبب فشله الذريع عند طلب بيانات تتطلب دقة متناهية. فإذا كان النموذج غير متأكد من المعلومات، فإنه يميل إلى ملء الفراغات لتجنب تعطيل سير الحوار.

علاوة على ذلك، فإن طريقة تدريب الذكاء الاصطناعي لها تأثير كبير. تقليديًا، كانت الأولوية للنموذج الذي يُنتج إجابات مفيدة ومقنعة للمستخدم ، وهو ما يتعارض أحيانًا مع الدقة الواقعية الصارمة. ويُعدّ تحقيق هذا التوازن أحد أبرز التحديات الحالية التي تواجه هذا القطاع.

استراتيجيات OpenAI والصناعة للحد من الهلوسة

في السنوات الأخيرة، ظهرت انتقادات عديدة بشأن ما يُشاع عن زيف الذكاء الاصطناعي التوليدي، بدءًا من الأخطاء في العروض التوضيحية العامة (مثل قضية الادعاء الكاذب الشهيرة حول تلسكوب جيمس ويب الفضائي) وصولًا إلى الإشارات الوهمية المستخدمة في السياقات القانونية أو الإعلامية. وقد دفعت هذه الإخفاقات شركات مثل OpenAI إلى إعادة النظر في كيفية تدريب نماذجها وتقييمها.

أحد خطوط البحث التي تعمل عليها OpenAI يُعرف باسم "مراقبة العملية ". بدلاً من التركيز فقط على ما إذا كانت الإجابة النهائية صحيحة ("مراقبة النتائج")، فإنها تحاول تقييم النموذج ومكافأته على المراحل المختلفة من التفكير التي يتبعها للوصول إلى تلك الإجابة.

الفكرة هي أنه إذا تمت مكافأة الذكاء الاصطناعي على التفكير الشفاف والمتسق ، وليس فقط على الوصول إلى إجابة نهائية مُنمقة، فإن احتمالية وصوله إلى استنتاجات خاطئة وإن بدت سليمة ظاهريًا تقل. وهذا يسمح أيضًا للنموذج بشرح الخطوات التي اتخذها بشكل أفضل، مما يجعله أقرب إلى "سلسلة التفكير" الشبيهة بالإنسان.

مع ذلك، ثمة شكوك كبيرة داخل المجتمع حول مدى قدرة هذا النهج على القضاء على الهلوسة فعلياً. ويطالب خبراء الخصوصية والأخلاقيات بمزيد من التفاصيل حول البيانات والأمثلة المستخدمة في هذه التدريبات، فضلاً عن إجراء بحوث مستقلة خاضعة لمراجعة الأقران للتحقق من صحة النتائج.

لم تحدد OpenAI حتى الآن موعدًا نهائيًا لتطبيق هذه التقنيات على نطاق واسع في جميع منتجاتها، لكنها أوضحت أن تقليل الأخطاء يمثل أولوية قصوى. وفي الوقت الراهن، تقع المسؤولية العملية عن الاستخدام الصحيح على عاتق المستخدم إلى حد كبير.

تغير في السلوك: عندما يبدو أن ChatGPT يعاني من الهلوسة بشكل أكبر

لاحظ العديد من المستخدمين المنتظمين أن برنامج ChatGPT، مع مرور الوقت، يبدو أكثر عرضةً للارتباك، أو الحيرة بطريقة مختلفة ، خاصةً عند العمل مع المستندات الطويلة، أو المراجع الأكاديمية، أو مهام البحث. ومن الأمثلة الشائعة على ذلك الباحثون الذين يرفعون عشرات ملفات PDF ويطلبون ملخصات، وتحديد المواضيع الرئيسية، واقتباسات مباشرة لدعم استنتاجاتهم.

من الشكاوى المتكررة أن النموذج يبدأ باختلاق الاقتباسات عند طلبها منه مع ذكر المراجع . وحتى بعد تصحيحها والإقرار بها، يستمر في اختلاق المزيد من الاقتباسات الخاطئة، وفي بعض المحادثات، يبدو أنه يدخل في حالة من "الهلوسة" يصعب الخروج منها دون بدء محادثة جديدة.

ومن المشاكل الأخرى التي يتم ذكرها بشكل متكرر تأثير الذاكرة المحسّنة والسياقات المتعددة . فعندما يتذكر المساعد التفضيلات أو المواضيع التي نوقشت في محادثات أخرى، قد يبدأ في خلط المجالات بشكل غير مناسب: على سبيل المثال، إدخال مفاهيم الحوسبة الكمومية عند الإجابة على أسئلة حول العلوم الاجتماعية، لمجرد أن المستخدم ذكر ميكانيكا الكم في محادثة أخرى.

لجأ بعض الأشخاص إلى تجربة أدوات بديلة متخصصة في تحليل المستندات، مثل أنظمة تحليل ملفات PDF كـ NotebookLM ، بعد أن لاحظوا أن ChatGPT كان يُنتج اقتباسات تبدو منطقية للغاية ولكنها غير موجودة. في هذه الحالات، يظل النموذج أداة مفيدة للإبداع، وتبادل الأفكار، أو الصياغة الأولية، ولكنه يُستخدم بحذر أكبر في المهام التي تتطلب دقة أكاديمية.

ضمن منظومة OpenAI، لوحظت اختلافات بين النماذج. فالنماذج المصممة للاستدلال الدقيق، مثل عائلة o3 ، تميل إلى أن تكون أبطأ، لكنها تُنتج أخطاءً أقل في تحليل المستندات التفصيلي. أما النماذج الأخرى، مثل GPT-4o أو النماذج الأخف وزنًا، فهي ممتازة للإبداع والسرعة، ولكن ينبغي استخدامها بحذر عند الحاجة إلى بيانات مُدققة بالكامل.

كيفية تقليل الهلوسة في ChatGPT باستخدام توجيهات جيدة

على الرغم من أن تصميم النموذج يضع حداً، إلا أن طريقة طرح الأسئلة لها تأثير كبير؛ فتخصيص ChatGPT وتحسين المطالبات يمكن أن يقلل بشكل كبير من احتمالية قيام ChatGPT باختلاق الأمور ، أو على الأقل يضمن تنبيهك عندما لا يكون لديه معلومات كافية.

من أهمّ المفاتيح توفير سياق واضح ومحدد . فكلما كانت التعليمات غامضة، زادت مساحة النموذج لملئها بالافتراضات. فبدلاً من السؤال: "ما هو تاريخ المكسيك؟"، من الأفضل تحديد السؤال بدقة: "اشرح ثلاثة أسباب رئيسية لبداية استقلال المكسيك، مع دعم إجابتك بمصادر تاريخية موثوقة".

من المفيد جدًا أيضًا تحديد نطاق المعلومات . إذا أعطيتهم وثيقة أو مجموعة نصوص، فأخبرهم أن إجابتهم يجب أن تستند حصريًا إلى تلك المواد: "أجب باستخدام المعلومات الواردة في هذه المقالات فقط. إذا لم تجد معلومة ما فيها، فقل إنك لا تملك بيانات كافية". هذا يقلل من ميل النموذج إلى الاعتماد على معلومات عامة غير دقيقة من تدريبه السابق.

تتمثل إحدى الاستراتيجيات الفعّالة الأخرى في طلب المصادر أو الإقرار بعدم اليقين . عبارات مثل "إذا لم تكن متأكدًا، فقل صراحةً إنك لا تعرف" أو "لا تُلفّق المعلومات؛ وإذا كانت هناك أي بيانات مفقودة، فأشر إليها" تُوجّه النموذج نحو إعطاء الأولوية للصدق على الطلاقة. ورغم أنها ليست مضمونة النتائج، إلا أنها عادةً ما تُقلّل من معدل التلفيقات الواضحة.

إذا كان لديك صلاحية الوصول إلى واجهة برمجة التطبيقات (API)، يمكنك تعديل درجة حرارة النموذج . القيم المنخفضة (القريبة من الصفر) تجعل النتائج أكثر تحفظًا وقابلية للتكرار، مما يقلل من مستوى الإبداع، وبالتالي خطر الهلوسة. لا يمكنك تغيير هذا المعامل مباشرةً في واجهة الويب، ولكن يمكنك طلب شيء مشابه مع تعليمات مثل: "أجب بموضوعية، دون تكهنات أو آراء شخصية".

أفضل الممارسات للكشف عن الهلوسات المحتملة والتحقق منها

إضافةً إلى تحسين التنبيهات، من الضروري اعتماد آلية تحقق منهجية . يمكن استخدام نفس التقنيات التي نستخدمها لكشف الخدع على الإنترنت لتحديد ردود الذكاء الاصطناعي المشبوهة.

التوصية الأولى بديهية إلى حد كبير، ولكن يجدر التذكير بها: تحقق دائمًا من المعلومات الأساسية من مصادر خارجية موثوقة. إذا زودك ChatGPT ببيانات رقمية أو تواريخ أو أسماء مؤلفين أو مراجع دراسية، فتحقق منها على مواقع رسمية أو قواعد بيانات أكاديمية أو كتب أو مقالات مرجعية؛ على سبيل المثال، راجع قوائم المهام التي لم يجد ChatGPT أمثلة ذات صلة بها.

من المفيد جدًا أيضًا أن تطلب من النموذج شرح منطقه خطوة بخطوة . تعليمات مثل "اشرح لي كيف توصلت إلى هذه النتيجة، خطوة بخطوة" تُمكّنك من اكتشاف الثغرات المنطقية أو الاستنتاجات غير المبررة. إذا لاحظت أن "المسار" غير منطقي، فمن المحتمل أن تكون الإجابة مبنية على وهم.

يساعد تقسيم الأسئلة الكبيرة إلى أسئلة فرعية محددة على تجنب اضطرار النموذج لتغطية سياق واسع دفعة واحدة. فبدلاً من طرح سؤال شامل حول مجال بأكمله، اسأل أولاً عن النظريات الرئيسية، ثم عن المؤلفين البارزين، ثم عن الأدلة التجريبية، وهكذا. بهذه الطريقة، يمكنك التحقق من صحة كل جزء على حدة.

في إصدارات ChatGPT التي تتضمن البحث عبر الإنترنت ، مثل بعض الخطط المدفوعة التي تتيح التصفح، يُنصح بتفعيل هذه الميزة عند الحاجة إلى معلومات حديثة. مع أن هذا لا يمنع الهلوسة تمامًا، إلا أنه يقلل من احتمالية حدوثها لأن النموذج يعتمد على مستندات حقيقية بدلًا من الاعتماد كليًا على الذاكرة الإحصائية.

من الحيل المفيدة تكرار نفس السؤال مع بعض التغييرات الطفيفة . إذا قدم النموذج إجابات متناقضة لأسئلة متطابقة تقريبًا، فهذا مؤشر قوي على أنه قد يكون يختلق المعلومات أو يستنتجها بشكل غير موثوق. في مثل هذه الحالات، يُنصح بإجراء تحقق خارجي شامل.

وأخيرًا، إذا كنت تستخدم واجهة برمجة التطبيقات أو الإعدادات المتقدمة، فحدد تعليمات نظام دائمة مثل: "إذا كنت غير متأكد من معلومة ما، فأجب بـ 'ليس لدي معلومات كافية' ولا تحاول التخمين". هذا لا يقضي على المشكلة تمامًا، ولكنه يرسخ معيارًا أكثر صرامة للنزاهة.

إعدادات وأنماط استخدام تقلل الأخطاء

إلى جانب المطالبات، هناك إعدادات معينة داخل ChatGPT يمكن أن تساعدك في تقليل الردود المصطنعة ، خاصة إذا كنت تستخدمه يوميًا لمواضيع حساسة مثل البحث أو العلوم أو القانون.

إذا كان لديك إمكانية الوصول إلى نماذج متقدمة مزودة بخاصية البحث عبر الإنترنت ، فإن تفعيلها عند التعامل مع بيانات سريعة التغير (كالأحداث الجارية، واللوائح، والأبحاث الحديثة) يُعدّ فكرة جيدة. فبالاعتماد على المعلومات الآنية، يمتلك الذكاء الاصطناعي خيارات أوسع للمقارنة، ويقلّ اعتماده على الحدس الإحصائي لسدّ الثغرات.

تُصمَّم ما يُسمى بأنماط الاستدلال المتقدمة ، مثل النماذج التي تركز على الدقة التحليلية (على سبيل المثال، عائلة o3)، لإعطاء الأولوية للدقة على السرعة. قد تستغرق هذه الأنماط وقتًا أطول للوصول إلى الإجابة، ولكنها تميل إلى ارتكاب أخطاء أقل خطورة في مسائل التحليل المنطقي أو الرياضي أو تحليل الوثائق التفصيلي.

من الميزات الرئيسية الأخرى في ChatGPT التعليمات المخصصة . في الإعدادات، يمكنك تحديد نوع الردود التي تفضلها: ردود تقنية أكثر، أو تعليمية أكثر، أو حذرة أكثر، وما إلى ذلك. على سبيل المثال، يمكنك توجيهه لإعطاء الأولوية للدقة على الإبداع، أو لتوثيق المصادر دائمًا عندما لا يكون متأكدًا تمامًا، أو لتحذيرك إذا كان يتكهن.

عند استخدام ChatGPT في البحث، من المهم توفير سياق غنيّ بالمراجع الواضحة ، خاصةً عند طلب تحليل مقالات أو ملخصات أكاديمية. إنّ تضمين مصادر موثوقة في السؤال نفسه، وتوضيح ضرورة استناد الإجابة إلى تلك الوثائق، سيقلل من احتمالية اعتماد النموذج على معلومات غامضة.

لا تنسَ أن لكل نموذج مستوى مخاطرة مختلف . قد يكون النموذج البسيط مثاليًا لتوليد أفكار إبداعية ("أعطني 20 طريقة للوصول من س إلى ص")، ولكنه ليس الخيار الأمثل لاستخراج اقتباسات دقيقة من ورقة بحثية. في المقابل، قد يكون النموذج الأكثر تعقيدًا هو الخيار الأنسب للتحليل المعمق، حتى وإن كان أبطأ. بعض هذه التعديلات ناتج عن معايير الذكاء الاصطناعي التي تُشكّل النماذج.

أخطاء شائعة لدى المستخدمين تؤدي إلى الهلوسة

لا يعود الكثير من الهلوسات التي نراها يوميًا إلى النموذج نفسه فحسب، بل إلى طريقة استخدامنا له أيضًا. فهناك أنماط استخدام عديدة تُشجع الذكاء الاصطناعي على ارتكاب الأخطاء ، ومن المهم تحديدها.

من أكثر الأخطاء شيوعاً طرح أسئلة عامة للغاية . فالطلبات مثل "اشرح كل شيء عن علم النفس الاجتماعي" أو "لخص أحدث ما توصل إليه العلم في هذا المجال" واسعة النطاق لدرجة أنها تجبر النموذج على تكثيف كمية هائلة من المعلومات، مما يزيد من احتمالية حدوث أخطاء أو تبسيطات غير دقيقة.

ومن الممارسات الخطيرة الأخرى الاعتماد الأعمى على الذكاء الاصطناعي لتوليد اقتباسات حرفية، أو مراجع ببليوغرافية، أو أحكام قانونية دون التحقق منها. ففي هذا النوع من المهام تحديدًا، تكون نماذج اللغة عرضةً بشكل خاص لاختراع عناوين، أو مؤلفين، أو بيانات تبدو جيدة ظاهريًا ولكنها غير موجودة.

كما أن خلط مواضيع كثيرة ومختلفة في نفس المحادثة لا يُجدي نفعاً . فإذا انتقلتَ في حوارٍ ما من الحديث عن فيزياء الكم إلى التربية، ثم إلى القانون، وانتهى بك الأمر بالحديث عن تاريخ الفن، يصبح سياق المحادثة فوضوياً، ويزداد احتمال أن ينقل النموذج مفاهيم من مجالٍ إلى آخر دون داعٍ.

من وجهة نظر تحليلية، يُعدّ التعامل مع برنامج ChatGPT كمصدر للحقيقة المطلقة بدلاً من كونه أداة مساعدة خطأً جسيماً. فكما تُقيّم عمل متدرب، عليك مراجعة مخرجات النموذج، خاصةً إذا كانت سمعتك المهنية أو الأكاديمية على المحك.

أخيرًا، يجدر التذكير بأن نماذج الذكاء الاصطناعي قد تتحسن أو تتدهور بمرور الوقت مع تحديثها. إذا لاحظتَ أن نموذجًا معينًا بدأ يُسبب لك مشاكل في الموثوقية في أنواع معينة من المهام (مثل تحليل المستندات الطويلة)، ففكّر في التبديل إلى نموذج آخر، أو بدء محادثة جديدة، أو دمجه مع أدوات متخصصة أخرى.

كيفية التعايش مع الهلوسة مع الاستمتاع بخدمة ChatGPT

لن تختفي الهلوسات غدًا، لكن هذا لا يعني أن برنامج ChatGPT يفقد قيمته. يكمن السر في استخدام الأداة بحكمة : استغل نقاط قوتها (الكتابة، توليد الأفكار، تنظيم المعلومات، تقديم شروحات واضحة) وكن أكثر دقة عند التعامل مع البيانات المهمة.

إذا كنت تستخدمه للإبداع أو العصف الذهني أو الكتابة الأولية، فعادةً ما تكون الهلوسات أقل إشكالية؛ بل قد تُضفي لمسةً مثيرةً للاهتمام. مع ذلك، إذا كنت تستخدمه للبحث أو التقارير الفنية أو المحتوى الذي يتطلب دقةً عالية ، فمن الحكمة إجراء مراجعة شاملة بنفسك وعدم نشر أي شيء دون التحقق منه.

في هذا التوازن الدقيق، من المهم تقبّل حقيقتين في آنٍ واحد: نماذج مثل ChatGPT ترتكب أخطاءً ، بعضها فادح، ولكن من الصحيح أيضاً أن البشر يخطئون. إذا أدّى الذكاء الاصطناعي مهمةً محددةً بدقةٍ أقل منا أو ساعدنا بشكلٍ كبير في تقليل الوقت الذي نستثمره، فإنه يظل خياراً جذاباً للغاية، شريطة ألا نُفوّض إليه المسؤولية النهائية.

في النهاية، أنت المسؤول عما توقعه باسمك، وليس النموذج. إلقاء اللوم على ChatGPT لخطأ جسيم أشبه بقولك "أكل الكلب واجبك المدرسي" : قد يبدو عذرًا، لكنه لا يعفيك من العواقب. التصرف السليم هو تعلم كيفية كشف الأوهام، ودمج آليات التحقق في سير عملك، وتحسين المطالبات والإعدادات تدريجيًا.

إذا جمعنا بين نماذج أفضل، وتقنيات تدريب جديدة تركز على العمليات، وأدوات بحث متكاملة، وتجربة مستخدم أكثر تطورًا، فستتضاءل حالات الوهم تدريجيًا. وحتى ذلك الحين، فإن النهج الأمثل هو التعامل مع ChatGPT على حقيقته: أداة قوية ولكنها ليست معصومة من الخطأ، يمكنها تعزيز إنتاجيتك طالما أنك لا تأخذ ردودها على محمل الجد دون مراجعتها أولًا.