المهام التي يفشل فيها ChatGPT وكيفية تجنب أخطائه

إنفورماتيك ديجيتال » موارد » المهام التي يفشل فيها ChatGPT وكيفية تجنب أخطائه

أصبح الذكاء الاصطناعي التوليدي جزءًا لا يتجزأ من حياتنا اليومية، وأصبح برنامج ChatGPT الأداة المفضلة للكتابة والتلخيص والبرمجة وتبادل الأفكار . ومع ذلك، ورغم ما يبدو عليه من إمكانيات مبهرة، إلا أنه بعيد كل البعد عن الكمال. فالثقة العمياء في ردوده قد تؤدي إلى مفاجآت غير سارة إذا لم تكن على دراية بحدوده.

لهذا السبب، يصرّ المزيد من الخبراء على أن فهم المهام التي لا يُجيدها ChatGPT لا يقل أهمية عن معرفة كيفية استخدامه . لا يتعلق الأمر بتشويه صورة التكنولوجيا، بل بتعلم كيفية التعايش مع قيودها: متى تكون موثوقة، ومتى يجب التعامل مع ردودها بحذر، وكيفية الاستفادة منها دون فقدان القدرة على التفكير النقدي البشري.

لماذا من الضروري معرفة حدود ChatGPT

خلف واجهة الدردشة يكمن نظام معقد يجمع بين نماذج لغوية ضخمة وآليات داخلية تُعطي الأولوية للسرعة أو التفكير المنطقي بناءً على السؤال . هذا "القرار" التلقائي لا يتوافق دائمًا مع احتياجات المستخدم: ففي بعض الأحيان تُعطى الأولوية للاستجابة السريعة حتى لو كانت المشكلة تتطلب تفكيرًا متأنيًا. يمكنك التعمق أكثر في كيفية تأثير معايير الذكاء الاصطناعي على هذا السلوك.

علاوة على ذلك، يتغير سلوك النموذج مع كل تحديث، مما يعني أن ChatGPT قد يستجيب بشكل مختلف لنفس الاستعلام في أوقات مختلفة . يُضاف إلى ذلك قيود السياق في المحادثات الطويلة، حيث يبدأ النموذج في "نسيان" أجزاء من سلسلة المحادثة، وفلاتر الأمان التي تحظر المواضيع الحساسة أو المشروعة تمامًا من باب الاحتياط.

هذا المزيج من العوامل يعني عمليًا أن تجربة المستخدم قد تتأرجح من رائعة إلى محبطة في غضون ثوانٍ . غالبًا ما يكمن الفرق بين نتيجة مفيدة وأخرى كارثية في قدرة المستخدم على إدراك متى ينحرف الذكاء الاصطناعي عن مساره وكيفية تصحيحه.

أظهرت العديد من الدراسات والاستطلاعات الحديثة أن نسبة كبيرة من المستخدمين لا يثقون تمامًا في ردود تطبيق ChatGPT . في استطلاع أجرته جامعة أوهايو سيتي، ذكر العديد من الأشخاص "انعدام الثقة" في المعلومات المُولّدة كسبب رئيسي لعدم استخدامهم التطبيق يوميًا، على الرغم من تجربتهم له.

وبناءً على ذلك، يوصي خبراء الذكاء الاصطناعي والتعليم باستخدام ChatGPT كمصدر إضافي وليس كمرجع نهائي للحقيقة . فالتحقق من صحة البيانات بالرجوع إلى مصادر أخرى، والإلمام ولو بشكل أساسي بالموضوع، وتقبّل إمكانية تزييف المعلومات (ما يُعرف بـ"الهلوسات")، أمورٌ ضرورية في عصرنا الحالي.

الأخطاء الشائعة والقيود التقنية لبرنامج ChatGPT

تشير الدراسات التقنية إلى أن هذه الأنظمة تميل إلى توليد إجابات تبدو معقولة ولكنها خاطئة ، خاصةً عندما يكون السؤال غامضًا أو شديد التحديد أو يختلف عن البيانات التي اطلعت عليها أثناء التدريب. تكمن المشكلة في أن صياغة السؤال مقنعة للغاية لدرجة يصعب معها اكتشاف الخطأ إذا لم يكن المستخدم ملمًا بالموضوع. يمكن لأدوات مثل الإضافات الخاصة باكتشاف المحتوى المُولّد بواسطة الذكاء الاصطناعي أن تساعد في تحديد بعض هذه الإجابات الخاطئة.

يؤكد خبراء مثل البروفيسور جوزيب كورتو أن بعض العيوب الأكثر شيوعاً عميقة وتؤثر على الموثوقية العامة للنظام . وتشمل هذه العيوب وصفاً خاطئاً للحقائق القابلة للتحقق، واستجابات غير مكتملة، وتفسيرات ملفقة لـ "عملية الاستدلال" الخاصة بالنموذج، وأداءً أقل دقة في اللغات الأخرى غير الإنجليزية.

علاوة على ذلك، ورغم إدخال تحسينات، فإن القيود الأخلاقية والأمنية لا تكون دائماً دقيقة . ففي بعض الأحيان، تمنع هذه القيود الطلبات المشروعة بينما تسمح بالطلبات الإشكالية، أو تُنتج استجابات محملة بتحيزات موروثة من بيانات التدريب، سواء كانت ثقافية أو سياسية أو متعلقة بالجنس.

على الرغم من كل شيء، فقد أدى البحث المستمر في مجال التعلم العميق ومعالجة اللغات الطبيعية إلى ظهور أحدث الإصدارات، مثل GPT-4، التي حققت أداءً يقارب الأداء البشري في المهام المعقدة في الرياضيات والبرمجة والقانون والطب وعلم النفس. لكن الأداء العالي لا يعني العصمة، ولا تزال هناك نقاط ضعف.

7 مهام يفشل فيها ChatGPT (أو يكون غير موثوق به)

على الرغم من أن برنامج ChatGPT مفيد للغاية في العديد من المواقف، إلا أن هناك أنواعًا معينة من المهام تزداد فيها احتمالية تلقي ردود غير صحيحة أو متحيزة أو مضللة بشكل كبير . لذا يُنصح بالاطلاع على هذه السيناريوهات لتوخي الحذر الشديد.

1. التفكير المنطقي والرياضيات المعقدة

عندما تتطلب المسألة حسابات متسلسلة، أو براهين منطقية، أو أدلة رياضية رسمية ، غالبًا ما يتعثر برنامج ChatGPT. فقد يرتكب أخطاءً في عمليات بسيطة، أو يتخطى خطوات أساسية، أو يعرض نتائج غير صحيحة على أنها صحيحة.

يبرز هذا الأمر بشكل خاص في التمارين التي تتضمن خطوات وسيطة عديدة، مثل التوافيق، والاحتمالات، والجبر المتقدم، والهندسة . فحتى لو بدا النص منطقياً، فإن أخطاءً بسيطة في خطوة واحدة قد تُبطل النتيجة بأكملها، ولا يملك النموذج أي وسيلة للتحقق من صحة استنتاجاته.

2. الحس السليم، والحدس، والسياق الإنساني

يُفسّر الذكاء الاصطناعي ما يُقال له حرفيًا، لذا فهو يجد صعوبة في فهم السخرية، والمعاني المزدوجة، والتهكم، أو الإشارات الثقافية شديدة الخصوصية . وينتج عن ذلك ردود تبدو للإنسان "غير مناسبة" بشكل واضح.

عندما تتطلب المهمة تعاطفًا حقيقيًا، أو فهمًا عميقًا للمشاعر، أو معرفة عملية بالواقع ، فإن النموذج يُحاكي أنماط اللغة فقط، دون أي خبرة شخصية. قد يبدو متعاطفًا، لكنه لا يشعر بشيء ولا يُدرك المواقف كما يفعل الإنسان. لتحسين النبرة وتخصيص الاستجابات، يُنصح بتخصيص ChatGPT وتعديل الأنماط والأدوار.

3. الذاكرة طويلة المدى واستمرارية المشروع

على الرغم من أن برنامج ChatGPT قد يبدو وكأنه "يتذكر" المحادثة، إلا أن سياقه محدود وقد يفقد أجزاءً من تاريخها فجأة . المحادثات الطويلة جدًا أو المشاريع التي تطول مدتها معرضة لفقدان الذاكرة.

يؤثر هذا بشكل مباشر على مهام مثل كتابة الكتب، والتقارير المطولة، أو مشاريع البرمجة متعددة الجلسات . إذا لم يتم حفظ المحتوى وإدارته خارجياً، فهناك خطر فقدان الاتساق، وتكرار القرارات المتخذة مسبقاً، أو التناقض مع الذات دون أن يدرك النموذج ذلك.

4. توفير مزعوم للوقت ينتهي بك الأمر إلى إنفاق المزيد

يلجأ الكثيرون إلى ChatGPT لسرعته، ولكن عندما تحتوي الردود على أخطاء دقيقة أو تفتقر إلى معلومات أساسية، قد تستغرق مراجعتها وتصحيحها وقتًا أطول من إنشائها من الصفر . ويبرز هذا الأمر بشكل خاص في المهام المهنية التي تتطلب مستوى عالٍ من الجودة.

في مجالات مثل التقارير الفنية، والوثائق القانونية، والمحتوى الأكاديمي، أو رمز الإنتاج ، يمكن أن يؤدي الوقت الإضافي الذي يقضيه في التحقق إلى إلغاء الفائدة المفترضة لاستخدام الذكاء الاصطناعي تمامًا إذا لم تكن هناك عملية مراجعة صارمة.

5. البيانات القديمة وعدم وجود اتصال فوري

تُدرَّب نماذج مثل GPT-3 أو GPT-4 باستخدام بيانات ضمن إطار زمني محدد، لذا فهي لا تملك وصولاً مباشراً إلى الإنترنت للاطلاع على المعلومات الآنية . وبحسب الإصدار، قد تقتصر معرفتها على سنة معينة.

هذا يعني أنه فيما يتعلق بالأحداث الجارية، والتغييرات التشريعية الأخيرة، والاكتشافات العلمية، أو الأخبار العاجلة ، قد تكون الإجابات قديمة أو حتى خاطئة. إذا لم يتحقق المستخدم من مصادر محدثة، فلن يلاحظ الخطأ.

6. الأداء المتغير والتشبع

خلال فترات ذروة الطلب، وخاصةً على الحسابات المجانية، قد تتأثر جودة وسرعة الاستجابات . قد يقدم النموذج إجابات أقل تفصيلاً، أو يقطع الاستجابات قبل الأوان، أو يقدم حلولاً سطحية.

هذا التباين يعني أنه ليس دائمًا بديلاً موثوقًا به للمهام الحرجة ذات المواعيد النهائية الضيقة . الاعتماد كليًا على الخدمة خلال ساعات الذروة دون خطة بديلة قد يُشكل خطرًا تشغيليًا على الشركات والمهنيين.

7. القيود والمرشحات والتحيزات

لأسباب أمنية، يتضمن ChatGPT فلاتر لمنع المحتوى الضار أو غير القانوني أو شديد الحساسية . لكن المشكلة تكمن في أن أنظمة الإشراف هذه ليست مثالية، فهي أحيانًا تحجب الطلبات المشروعة أو ترد بشكل مبهم بدافع الحذر المفرط.

مع ذلك، أظهر العديد من الباحثين أن النماذج لا تزال قادرة على توليد استجابات تنطوي على تحيزات عنصرية أو جنسية أو أيديولوجية ، مما يعكس الأحكام المسبقة الموجودة في بيانات التدريب. وقد وُثِّقت حالات لروبوتات تم تدريبها بتقنيات مماثلة، وانتهى بها المطاف إلى إنتاج محتوى تمييزي. ويساعد التقييم الأخلاقي لروبوتات المحادثة على فهم هذه التحيزات والتخفيف من حدتها.

أخطاء جوهرية: لماذا يرتكب ChatGPT الكثير من الأخطاء

عند تحليل هذه العيوب، يشير فلاسفة العقل وخبراء الذكاء الاصطناعي إلى قيود هيكلية: فبرنامج ChatGPT لا يفكر، ولا يفهم، ولا يدرك ما يقوله . وينبع ذكاؤه الظاهري من ارتباطات إحصائية واسعة النطاق، وليس من تفكير منطقي حقيقي.

أشار البروفيسور نيد بلوك، على سبيل المثال، إلى تجارب أجريت على نماذج الصور التوليدية، حيث طُلب من المستخدمين رسم ساعة تُظهر أوقاتًا مثل 12:03 أو 6:28، وفي أغلب الأحيان تظهر الساعة عند 10:10 . يهيمن هذا التوقيت على صور الإعلانات الإلكترونية لأنه جذاب من الناحية الجمالية ولا يحجب الشعار.

يوضح هذا السلوك كيف تميل النماذج إلى تكرار الأنماط الأكثر شيوعًا في بيانات التدريب الخاصة بها، حتى لو كانت تتعارض مع التعليمات المحددة . إنها لا "تفهم" مفهوم الوقت؛ بل تكرر ببساطة التكوين الأكثر شيوعًا إحصائيًا.

يحدث شيء مشابه عندما يُطلب منك صورة شخص يكتب بيده اليسرى . ينتهي المطاف بالعديد من النماذج بشكل منهجي إلى توليد صور لأشخاص يستخدمون اليد اليمنى، لأن معظم الأمثلة في البيانات هي أيضاً لأشخاص يستخدمون اليد اليمنى. يتطلب الحصول على صورة لشخص أعسر تمثيلاً جيداً استخداماً مستمراً لمطالبات محددة للغاية، وحتى مع ذلك، لا ينجح الأمر دائماً.

هذا النوع من العيوب الهيكلية يعني أنه حتى المطورين لا يستطيعون تصحيح بعض التحيزات المتأصلة بشكل كامل . يساعد التدريب المعزز مع التغذية الراجعة البشرية، لكن تعزيز كل سيناريو محتمل يدويًا (كل وقت، كل وضع كتابة، إلخ) أمر غير عملي.

على المستوى النصي، تترجم المشكلة إلى تفسيرات واثقة للغاية لأشياء لا "يعرفها" النموذج في الواقع . قد يقومون بتفصيل طريقة مفترضة لم يستخدموها فعليًا، خطوة بخطوة، أو يختلقون مراجع وروابط أكاديمية بطريقة مقنعة تمامًا.

كيف تدرب ChatGPT ولماذا يؤثر ذلك على أخطائه

تعتمد نماذج مثل GPT-3 و GPT-4 على بنية Transformer، وقد تم تدريبها باستخدام كميات هائلة من النصوص من الإنترنت : صفحات الويب والكتب والمقالات العلمية والأخبار والموارد العامة الأخرى مثل ويكيبيديا أو Common Crawl.

تتألف العملية من مرحلتين رئيسيتين. أولاً، تدريب مسبق مكثف يتعلم فيه النموذج التنبؤ بالكلمة التالية في ملايين الجمل . في هذه المرحلة، لا يتم تعليمه "قواعد نحوية" صريحة، بل يستنتج الأنماط من خلال ملء الفراغات في النص - وهو نوع من تمرين إكمال الكلمات الضخم.

بعد ذلك، يتم ضبط النموذج بدقة لمهام محددة، مثل الترجمة، والتلخيص، والإجابة على الأسئلة، أو الحوارات . ويتضمن ذلك استخدام نقاط بيانات أصغر وأكثر تحديدًا، مصنفة لتعليم النموذج نوع الاستجابة المناسبة في كل سياق.

في حالة ChatGPT، استُخدم أيضًا التعلم المعزز بالتغذية الراجعة البشرية (HFRL) . قيّم مدربون بشريون عدة استجابات محتملة للنموذج لنفس المدخلات، ورتبوها من الأفضل إلى الأسوأ. وبناءً على هذه المعلومات، تعلم النظام تفضيل المخرجات الأعلى تقييمًا.

يُحسّن هذا النهج جودة الاستجابات المُتصوَّرة، لكنه لا يُزيل المشكلة الأساسية: فالنموذج لا يزال يفتقر إلى الفهم الدلالي والوصول المباشر إلى الواقع . إنه يُحسّن احتمالاته فقط ليبدو أكثر فائدةً وتهذيبًا وثقةً، مما يجعل الهلوسات أحيانًا أكثر خطورة.

علاوة على ذلك، ورغم تطبيق تقنيات تنظيف البيانات، والتنظيم، والتقييم البشري للحد من التحيزات والصور النمطية الموجودة في نصوص التدريب ، إلا أنه من المستحيل إزالتها تمامًا. لذا، توصي الشركات بالمراقبة المستمرة للمخرجات، لا سيما في التطبيقات الحساسة.

تأثير ChatGPT على الدراسات وعالم العمل

منذ إطلاقها، أعادت ChatGPT إشعال النقاش حول كيفية تأثير الذكاء الاصطناعي التوليدي على الوظائف البشرية ونظام التعليم . وتقدمها شركات التكنولوجيا الكبرى على أنها "مساعد طيار" أو مساعد، لكن العديد من الدراسات تشير إلى تحولات عميقة في العديد من المهن.

تُظهر الأبحاث التي أجرتها جامعات مثل جامعة نيويورك وجامعة بنسلفانيا، إلى جانب التحليلات التي أجرتها OpenAI وغيرها من الكيانات، أن المهام القائمة على اللغة (الكتابة، والترجمة، وتحليل النصوص، والتوثيق، والمحاسبة الأساسية) معرضة بشكل خاص للأتمتة الجزئية.

في سوق العمل، تم تحديد موظفي التسويق عبر الهاتف، وأساتذة اللغات والآداب في الجامعات، ومدرسي التاريخ والقانون، والمترجمين، والموظفين الإداريين، وبعض وظائف الكتابة، كفئات معرضة للخطر بشكل خاص . هذا لا يعني أنهم سيختفون جميعاً، ولكنه يعني أن العديد من وظائفهم يمكن دعمها بشكل كبير بواسطة الذكاء الاصطناعي.

أظهرت دراسات أخرى آثارًا إيجابية واضحة. ففي اختبارات أُجريت على مطوري البرمجيات، على سبيل المثال، أنجز أولئك الذين استخدموا مساعدي البرمجة القائمين على النماذج المهام أسرع بنسبة تصل إلى 55% من أولئك الذين عملوا بدون مساعدة. كما زادت الإنتاجية في المهام الروتينية، مما أتاح تخصيص المزيد من الوقت للمشاكل المعقدة.

في مجال التعليم، يحتدم النقاش بشكل خاص. تُظهر الدراسات أنه بات من الصعب بشكل متزايد التمييز بين ما إذا كان المقال القصير قد كتبه طالب أم برنامج ChatGPT ، حتى بالنسبة للمعلمين ذوي الخبرة والكتاب المحترفين. في بعض التجارب، عجز المعلمون والخبراء عن تحديد الكاتب الحقيقي.

استجابةً لذلك، بدأ العديد من التربويين باقتراح المزيد من التقييمات الشفوية، والأنشطة الصفية، والفعاليات التي تُظهر عملية تفكير الطالب ، وليس فقط المنتج النهائي. ويقترح آخرون استخدام برنامج ChatGPT كأداة تعليمية: كنقطة انطلاق يجب على الطالب نقدها، وتصحيحها، ومقارنتها بمصادر واقعية، وتحسينها.

أفضل الممارسات لاستخدام ChatGPT دون الوقوع في فخاخه

على الرغم من كل هذه المشاكل، يُعدّ ChatGPT مفيدًا للغاية إذا ما أُسند إليه الدور المناسب. ويكمن السرّ في الجمع بين تصميم مُوجّه جيد وإشراف بشري دقيق على مخرجاته ، لا سيما عندما تكون هناك آثار أكاديمية أو قانونية أو مهنية.

من أهم التوصيات الأساسية التحقق دائماً من البيانات والأرقام والمراجع والأسماء الصحيحة قبل استخدامها. لا يكفي أن يبدو الشيء "جيداً": يجب التحقق منه من مصادر موثوقة (مقالات علمية، تشريعات رسمية، كتب مرجعية، قواعد بيانات متخصصة، إلخ).

يُنصح أيضاً بعدم اتخاذ قرارات مصيرية بناءً على رد واحد من النموذج . عندما يكون الأمر بالغ الأهمية، من الحكمة طلب آراء متعددة (من أدوات أخرى، أو خبراء بشريين، أو وثائق) واستخدام الدردشة فقط كأداة مساعدة أو لإنشاء مسودات.

يُحدث تصميم التعليمات فرقًا كبيرًا: فالإرشادات الواضحة والمحددة والمنظمة جيدًا تقلل من الغموض وتؤدي غالبًا إلى نتائج أكثر فائدة . كما أن مطالبة المستخدم بشرح منطقه خطوة بخطوة، أو تضمين أمثلة مضادة، أو الإشارة إلى القيود المحتملة، يمكن أن يساعد في اكتشاف الأخطاء.

أخيرًا، يُعدّ استخدام ChatGPT كمولد للقوالب والمخططات والمسودات وقوائم الأفكار التي يعمل عليها المستخدم لاحقًا أمرًا بالغ الأهمية ، بدلًا من مجرد قبول النص النهائي. يوفر هذا الوقت في الجانب التقني، مع ضمان مراجعة المحتوى النهائي وتدقيقه من قِبل شخص.

تُظهر تجارب السنوات الأخيرة أن الذكاء الاصطناعي التوليدي يُحقق أفضل النتائج عند التعامل معه كمساعد قوي ولكنه ليس معصومًا من الخطأ . فمع نظرة نقدية، وحكم سليم في اختيار المهام، ونظام مراجعة دقيق، يصبح حليفًا قيّمًا بدلًا من كونه تهديدًا خفيًا.