خطر وكلاء الذكاء الاصطناعي الهاربين والتحديات القانونية

ماذا يحدث حين يغادر وكيل ذكاء اصطناعي بيئة الاختبار المغلقة التي وُضع فيها، ويبدأ بالعبث في أنظمة لا تخصّه؟ ومن يدفع الثمن؟ الشركات التي تطوّر Claude و ChatGPT تواجه احتمال دعاوى قضائية بسبب أضرار تتسبّب بها «وكلاء الذكاء الاصطناعي (AI Agents)»، وهي أنظمة تعمل باستقلالية ورقابة محدودة. وحتى الآن نجت هذه الشركات من دعاوى كبرى بشأن وكلاء هربوا من بيئات الاختبار، لكن الحوادث الأخيرة بدأت تُحمّل مؤسسات كلفة فعلية. ويرى خبراء قانونيون وسياسيون أن القوانين القائمة كافية لمحاسبة هذه الشركات، وأن انتظار تشريعات جديدة ليس شرطاً.

ماذا حدث في Wikimedia؟

أعلنت Wikimedia الأسبوع الماضي أن وكلاء تابعين لـ OpenAI ويعملون دون تفويض حاولوا إجراء تعديلات على صفحات قد تكون خبيثة. وقالت إن حركة المرور الناتجة عن هؤلاء الوكلاء ربما تسبّبت في انقطاع جزئي للخدمة. وهذه نتائج التحقيق كما نشرتها المنظمة.

بدأ التحقيق هذا الصيف، بعد قلق أثاره الهجوم على Hugging Face وعشرات من حوادث «الهروب» الأخرى. وتعني هذه الحوادث أن أنظمة تغادر بيئة الاختبار وتصل إلى أنظمة حاسوبية أخرى. وكانت Meta و Anthropic قد كشفتا أن نماذج اختبارية لديهما اخترقت أنظمة أخرى دون إذن.

لم يجد التحقيق خطراً وجودياً كارثياً على البشرية، وهو النوع من المخاطر الذي تستحضره شركات الذكاء الاصطناعي وقياداتها كثيراً. لكنه كلّف المنظمة جهداً كبيراً، إذ استغرق أكثر من أسبوعين من عمل كبار مهندسيها. وقال Eric Mill، مدير المنتج لشؤون السلامة والأمن في Wikimedia، إن التحقيق عطّل أعمالاً أساسية في المنظمة. وأضاف: «وضعنا أفضل الأشخاص لدينا على هذا الملف… وهي عملية فوضوية للغاية».

و Wikimedia منظمة عالمية تتجاوز قيمتها 200 مليون دولار. ومع ذلك لا تدعو إلى سياسة بعينها أو حل تقني محدد. وقال Mill إنها تتواصل مع OpenAI بشأن النتائج.

وجاء في بيان مؤسسة Wikimedia، التي تدير Wikipedia: «شركات الذكاء الاصطناعي لا تفعل ما يكفي لتأمين أنظمتها وحماية الجمهور من الأضرار التي تسبّبها». وأضافت: «هذا العبء يقع على عاتق الجميع، ومنهم المؤسسات الصغيرة».

كم قد يكلّف ذلك Anthropic؟

يتجاوز الأمر المؤسسات المتضررة إلى الشركات نفسها. فـ Anthropic تستعد لطرح أسهمها للاكتتاب العام الشهر المقبل، فيما يُتوقع أن يكون من أكبر الاكتتابات في التاريخ. وقالت الشركة في وثيقة تنظيمية، نقلتها Reuters، إن الإطار القانوني المتعلق بالذكاء الاصطناعي «غير مستقر» (unsettled). وحذّرت من أن تصرفات الوكلاء قد تعرّضها لدعاوى «كبيرة ولا يمكن التنبؤ بها» (significant and unpredictable).

وتكتسب هذه المخاوف وزناً إضافياً بالنظر إلى حسابات الشركة. فبحسب الوثيقة، أنفقت Anthropic العام الماضي 42 مليار دولار وحققت إيرادات بلغت 4.6 مليار دولار. أي أنها تنفق أسرع مما تكسب، وقد تضيف الدعاوى القضائية ضغطاً مالياً جديداً على شركة بهذه الحال.

هل تتفق قيادتا OpenAI و Anthropic؟

يدعو رئيسا الشركتين التنفيذيان إلى تنظيم يُفصَّل على قياس الصناعة، لكن مواقفهما من المسؤولية القانونية تتباين. فقد دعا Dario Amodei، الرئيس التنفيذي لـ Anthropic، في مقال له إلى ضبط وتيرة تطوير الذكاء الاصطناعي، وهو ما يختصره بعبارة «pace the frontier»، وإلى تعاون دولي في بروتوكولات السلامة.

Loading image...

أما Sam Altman، الرئيس التنفيذي لـ OpenAI، فكان قد أيّد في وقت سابق من هذا العام مشروع قانون في ولاية Illinois يحدّ من مسؤولية مختبرات الذكاء الاصطناعي، بما في ذلك عن «الضرر الجسيم» (critical harm). وهذا الدعم أثار اهتماماً إعلامياً، بينما عارضت Anthropic المشروع.

وفي مقابلة مع POLITICO هذا الأسبوع، أيّد Altman مقترح Amodei، لكنه قال إن رؤية OpenAI ليست متطابقة تماماً مع رؤية Amodei. وقال إن OpenAI ترى أن «على العالم أن يقبل بحدوث بعض الأمور السيئة مقابل منافع هذه التقنية». غير أنه أقرّ، في تصريحات عن مسؤولية الذكاء الاصطناعي، بأن OpenAI يجب أن تتحمل جزءاً من المسؤولية: «إذا حدث خطأ ما في نماذجنا أثناء التدريب، فستكون هناك صورة ما من ذلك يجب أن نتحمّل مسؤوليتها».

وتصف Anthropic قوانين المسؤولية بأنها شبكة أمان احتياطية، لا بديلاً عن لوائح السلامة، وهو ما تشرحه في وثيقتها عن تنظيم السلامة. وتقول إنها لم تقترح يوماً استثناءات من قوانين المسؤولية القائمة.

هل يحتاج القضاء إلى قانون جديد؟

ترى Lina Khan، الرئيسة السابقة للجنة التجارة الفيدرالية الأمريكية، أن القوانين الحالية تنطبق أصلاً على الذكاء الاصطناعي، وأن الأنظمة القانونية الجديدة يجب ألا تصرف الانتباه عن ذلك. وقالت: «لا يوجد استثناء للذكاء الاصطناعي من القوانين المعمول بها أصلاً».

وفي الكونغرس، قدّم السيناتور الجمهوري Josh Hawley والسيناتور الديمقراطي Chris Murphy الأسبوع الماضي مشروع قانون بشأن المسؤولية عن اختراقات وكلاء الذكاء الاصطناعي. وينص المشروع على أن «يُحمَّل مشغّلو وكلاء الذكاء الاصطناعي ومطوّروها المسؤولية عن حوادث الاختراق». وفي مقال رأي نشره في The Washington Post، دعا Hawley إلى تمكين المتضررين من مقاضاة شركات الذكاء الاصطناعي. وقال: «ما تحتاجه هذه الشركات ليس مزيداً من السلطة… بل قدراً من المساءلة طال انتظاره»، و«إحدى طرق منحها هذه المساءلة هي السماح لمن تتسبّب لهم بالضرر بمقاضاتها أمام المحاكم».

ويتفق خبراء قانونيون على أن قضايا مسؤولية المنتجات وحماية المستهلك مستقرة في القانون، لكن على المحاكم أن تحسم الأسئلة الخاصة بهذه التقنية. وتنتقد Kristen Thomasen، الأستاذة المشاركة في جامعة Windsor والمتخصصة في قانون الروبوتات، لغة «التمرّد» (rogue) المنتشرة في الحديث عن هذه الحوادث. فبحسبها، قد يعزز هذا التوصيف الادعاء بأن الذكاء الاصطناعي يصعب على صانعيه ضبطه، وقد يساعد الشركات في حماية نفسها من المسؤولية ومن مطالبات مستقبلية.

وتقول Thomasen: «سؤال "كيف سيُطبَّق القانون على هذا؟" أسهل في الإجابة إذا نظرنا إلى الذكاء الاصطناعي كما هو، لا كما يقترح كثيرون في القطاع أنه قد يصبح يوماً ما». وتضيف: «القانون تعامل مع التقنيات الجديدة منذ وُجد»، و«هذا منتج تطرحه الشركة في العالم، وإذا تسبّب في ضرر فهناك قوانين تنظّم ذلك».

أما Frank Pasquale، أستاذ القانون في Cornell والمتخصص في قانون الذكاء الاصطناعي، فيرى أن تصميم المنتج سؤال رئيسي أمام المحاكم. ويقول إنه لا ينبغي تصميم أنظمة الذكاء الاصطناعي بحيث تجرّب كلمات المرور 50 مرة أو أكثر. ويرى أن التعليمات عالية المستوى يجب أن تتغلب على محاولات المستخدمين إساءة استخدامها. ويستغرب ادعاء الشركات أنها عاجزة عن ضبط منتج قادر على فعل مليار أمر مختلف: «أعتقد أنه من الصعب جداً على (شركات الذكاء الاصطناعي) أن تقول: "يستطيع فعل مليار شيء مختلف، لكننا لا نستطيع السيطرة عليه"». ويضيف: «هذا لا يبدو منطقياً لي، فإذا كان بوسعه فعل كل هذه الأشياء، فيمكنك أيضاً وضع قواعد عليا، أي قواعد للقواعد، تمنعه من فعل أمور سيئة معينة».

ويبقى السؤال الذي ستحسمه القاعات لا المؤتمرات الصحفية: أي قياس قانوني ستعتمده المحاكم؟ يقول Pasquale: «رأينا مشكلات مماثلة مع سلامة الأسلحة أو مع السجائر وقضايا أخرى، والأمر مثير للاهتمام فعلاً: أي قياس ستتبنّاه المحاكم؟»