- يتطور الإطار التنظيمي من مبدأ الخطأ إلى مبدأ المسؤولية المطلقة لأنظمة الذكاء الاصطناعي عالية المخاطر.
- يُرسي النظام الأوروبي للذكاء الاصطناعي إدارة المخاطر المسبقة لضمان السلامة والأخلاقيات في النشر التكنولوجي.
- يواجه إصلاح الأضرار تحديات معقدة بسبب غموض الخوارزميات واستقلالية الآلات.
في هذه الأيام، لا يكاد يمر دقيقة دون أن نسمع عن برامج مثل ChatGPT أو Perplexity أو الروبوتات التي تعمل في غرف العمليات. لقد غزت هذه الثورة التكنولوجية حياتنا فجأة، وبينما نندهش من سهولة استخدام هذه الأدوات، فقد فتحت أيضًا بابًا واسعًا للمشاكل القانونية. تكمن المشكلة في أن القانون غالبًا ما يتخلف عن التكنولوجيا ، وعندما يتخذ برنامج حاسوبي قرارًا تلقائيًا ينتهي بكارثة، لا يمكن ببساطة القول: "الخطأ خطأ الجهاز".
نحن ندخل منطقةً غامضةً حيث تعجز المفاهيم التقليدية للقانون المدني عن حلّها. فنحن لا نتعامل مع مشكلة برمجية فحسب، بل مع أنظمة قادرة على التعلّم والتطوّر ذاتيًا، مما يجعل تتبّع مصدر الضرر أمرًا بالغ الصعوبة. ولذلك، من الضروري تحليل كيفية تغيّر المشهد التشريعي، لا سيما في الاتحاد الأوروبي، حتى لا تقع الشركات ولا المستخدمون في مأزق قانوني حيث لا يتحمّل أحد المسؤولية.
ما الذي نفهمه حقاً من الذكاء الاصطناعي من منظور قانوني؟
لتجنب التسرع في الاستنتاجات، يجب علينا أولاً تحديد ما نتحدث عنه. تُعرّف المفوضية الأوروبية واللائحة (الاتحاد الأوروبي) 2024/1689 الذكاء الاصطناعي بأنه أنظمة آلية تعمل بمستويات متفاوتة من الاستقلالية . فهي ليست مجرد برامج تتبع وصفة ثابتة، بل تعالج بيانات الإدخال لتوليد مخرجات - مثل التنبؤات أو القرارات - التي يمكنها تغيير العالم المادي أو الافتراضي. النقطة الأساسية هنا هي أنه على الرغم من أنها تحاكي السلوك الذكي، إلا أنها تفتقر إلى الوعي والإرادة الحرة ، مما يستبعد، في الوقت الراهن، منحها شخصية قانونية مستقلة.
المخاطر التي تهدد حقوقنا
إن استخدام الذكاء الاصطناعي ليس بالأمر الهين. فهناك ثلاثة مجالات رئيسية للمخاطر تُقلق الجهات التنظيمية. أولها المخاطر التي تُهدد الحقوق الأساسية ، حيث تُصبح الخصوصية وعدم التمييز في خطر. إذ يُمكن أن يؤدي استخدام البيانات البيومترية للمراقبة الجماعية أو التحيز الخوارزمي إلى رفض شخص ما في عملية اختيار أو في الحصول على قرض مصرفي دون مبرر حقيقي، استنادًا إلى تحيزات برمجها المطور دون قصد.
من جهة أخرى، توجد ثغرات أمنية ومشاكل في التشغيل. فالهجوم الإلكتروني على نظام مالي مدعوم بالذكاء الاصطناعي، أو عطل في روبوت جراحي، قد يتسبب في أضرار مادية وشخصية بالغة الخطورة . وأخيرًا، هناك مخاطر هيكلية، تتراوح بين التضليل الإعلامي (الأخبار الكاذبة) وفقدان الوظائف، مما يخلق شعورًا بالعجز لدى المستهلكين الذين غالبًا لا يدركون حتى أنهم يتفاعلون مع الذكاء الاصطناعي.
متاهة المسؤولية المدنية
هنا تكمن الخطورة. جرت العادة في إسبانيا على اتباع المادة 1902 من القانون المدني، التي تنص أساسًا على أنه إذا تسببتَ في ضررٍ نتيجة خطأ أو إهمال، فعليك إصلاحه. ولكن كيف يُمكن إثبات إهمال المبرمج إذا تعلّم النظام سلوكًا غير متوقع من خلال التعلّم الآلي؟ هذا الغموض الخوارزمي يجعل النموذج التقليدي للمسؤولية الذاتية غير كافٍ.
الصراع بين الشعور بالذنب والمخاطرة
يدور نقاش حاد حول ما إذا كان ينبغي لنا الانتقال إلى نموذج المسؤولية المطلقة ، لا سيما فيما يتعلق بالذكاء الاصطناعي عالي المخاطر. في ظل هذا النظام، لن يضطر الضحية إلى بذل جهد كبير لإثبات إهمال أي طرف؛ بل يكفي إثبات أن النظام تسبب في الضرر وأن هناك علاقة سببية بينهما. سيكون الأمر مشابهاً لما يحدث في حوادث المرور: فالخطر ينشأ من تشغيل الآلة، وبالتالي يجب أن يكون مسؤولاً عن التعويض بغض النظر عن وجود "سوء نية" أم لا.
الحالة الحرجة للمركبات ذاتية القيادة
تُعدّ السيارات ذاتية القيادة مثالاً واضحاً على هذه المعضلة. حالياً، هناك خط أحمر: طالما أن الإنسان يملك السيطرة الكاملة، يبقى السائق مسؤولاً. لكن عندما نصل إلى الاستقلالية التامة، سيتعين تغيير الإطار القانوني جذرياً. لن يكون بوسعنا بعد الآن التذرع بعطل في البرمجيات كـ"قوة قاهرة" لإعفاء المالك. من المرجح أن نشهد تأميناً إلزامياً على المسؤولية المحددة ، وإنشاء صناديق ضمان لضمان عدم حرمان المتضررين من التعويض.
قانون الذكاء الاصطناعي واستراتيجية الاتحاد الأوروبي
اتخذ الاتحاد الأوروبي الخطوة الأولى بإصدار لائحة الذكاء الاصطناعي (قانون الذكاء الاصطناعي)، وهي أول لائحة شاملة في العالم في هذا الشأن. لا تتناول هذه اللائحة المسؤولية المدنية بشكل مباشر (إذ تُترك هذه المسألة لتوجيهات محددة)، ولكنها تُرسّخ نظامًا للحوكمة الاستباقية . وتصنف الذكاء الاصطناعي وفقًا لمخاطره: من المخاطر غير المقبولة (المحظورة) إلى المخاطر العالية، والتي تشمل قطاعات مثل الصحة والتعليم وإدارة البنية التحتية الحيوية.
- الأنظمة عالية المخاطر: يجب أن تستوفي هذه الشركات متطلبات صارمة تتعلق بالشفافية والأمن السيبراني والإشراف البشري.
- افتراض السببية: يُقترح تسهيل تقديم الأدلة للضحايا، مما يسمح بالنظر في بعض انتهاكات قانون الذكاء الاصطناعي الإهمال المزعوم.
- الحق في النسيان واللائحة العامة لحماية البيانات (GDPR): تظل معالجة البيانات الشخصية خاضعة للائحة العامة لحماية البيانات (GDPR)، مما يضمن أن أي إساءة استخدام للمعلومات الشخصية من خلال الذكاء الاصطناعي تؤدي إلى تعويض فعال.
الالتزامات بتجنب الكوارث
لتجنب دفع تعويضات باهظة، يجب على الشركة تطبيق إجراءات امتثال قانونية وتشكيل لجان أخلاقية . لا يكفي أن يعمل النظام فحسب، بل يجب أن يكون قابلاً للتدقيق وشفافاً. تشمل الوقاية إزالة التحيز في بيانات التدريب وضمان وجود شخص متاح دائماً لتعطيل النظام في حالات الطوارئ. سيكون عدم الالتزام بمتطلبات العناية الواجبة هذه عاملاً حاسماً في الدعاوى القضائية المستقبلية لتحديد الجهة المسؤولة عن دفع التعويضات.
يتطلب التطور نحو سوق رقمية موحدة توحيد القواعد لجميع الشركات في أوروبا، ما يمنع بعض الشركات من اللجوء إلى ملاذات قانونية ذات متطلبات أقل صرامة. والاتجاه واضح: تخفيف عبء الإثبات على المواطنين وزيادة مسؤولية المشغلين والمصنعين، الذين هم المستفيدون الحقيقيون من استغلال هذه التقنيات.
يتجه المشهد القانوني نحو التوافق، حيث لا تُعدّ السلامة والأخلاقيات خيارًا، بل شرطًا أساسيًا لدخول السوق. ويهدف الجمع بين المسؤولية الصارمة عن الأنظمة الأكثر خطورة، والتأمين الإلزامي، والرقابة البشرية الدقيقة، إلى ضمان استمرار الابتكار مع منع تحميل المستخدمين الأكثر ضعفًا تكلفة التقدم.
