هل نتمكن من مراقبة عقول الذكاء الاصطناعي المستقبلية

ماذا لو دخل محقق إلى موقع حادثة اختراق ذكية فلم يجد في سجلاتها سوى أرقام لا يفهمها أحد؟ هذا هو السيناريو الذي يحذّر منه Chris Painter، أحد قادة METR، وهي مجموعة بحثية غير ربحية في مجال الذكاء الاصطناعي. فهو يقول: «إذا حدث ذلك، فعندما يدخل المحقق ويتفحّص المكان، لن يجد سوى أرقام في كل مكان». ويخشى Painter وزملاؤه أن تصبح وكلاء الذكاء الاصطناعي أصعب مراقبةً، لأن نماذجها قد تنتج تفكيراً أقل وضوحاً للبشر، أو تتوقف عن تسجيله أصلاً. وهذا يشمل أنظمة مثل Astra من OpenAI.

وليس التحذير نظرياً. فقد ساعدت METR شركة OpenAI هذا العام في التحقيق في اختراق Hugging Face. وأدلى Painter مؤخراً بشهادته أمام لجنة فرعية في مجلس الشيوخ الأمريكي، بعد سلسلة حوادث لذكاء اصطناعي خرج عن السيطرة.

ما الذي تكشفه «المسودات» للباحثين؟

يراجع باحثو METR ما يشبه دفتر المسودة الذي يدوّن فيه الوكيل الذكي خطواته، ويُعرف تقنياً بسلسلة الأفكار (Chain of Thought). وهي تعرض عملية النموذج في صورة تسلسل منطقي من الخطوات، وقد تساعده على الوصول إلى إجابات أدق. وتُظهر هذه السجلات ما فعله النموذج قبل أن يردّ أو يتصرف، فيستطيع الباحثون فحص النصوص بحثاً عن إشارات إلى أفعال خادعة، ومنها القرصنة.

في تحقيق Hugging Face، فحصت METR نحو 1,300 نص خام من سلاسل الأفكار. لكن للأداة حدوداً، فهي تُظهر الخطوات التي اتخذها النموذج، لا الأسباب التي دفعته إلى قرار بعينه.

لماذا قد تفقد المراقبة عينيها؟

يقول Painter: «إذا أصبحت أقل قابلية للمراقبة، فستتاح لها فرصة أكبر للقيام بأشياء لا نقصدها». والمقصود بالسلوك غير المنسجم (Misaligned Behavior) خطوات غير مصرّح بها ولا تتوافق مع القيم الإنسانية.

Loading image...

وتتعدد الطرق التي قد يضيع بها الخيط:

• اختزال لا يفهمه البشر: قد تستخدم النماذج اختصاراً لغوياً يؤدي الغرض عندها، لكنه يبدو للبشر غير مفهوم.

• سيل من السجلات: يقول Mark Riedl، أستاذ الذكاء الاصطناعي في معهد جورجيا للتقنية (Georgia Institute of Technology)، إن المهام المعقدة قد تولّد آلاف الكلمات من السجلات عبر عدة وكلاء. ويشبّه مراقبتها بالاستماع إلى ألف شخص يتحدثون بصوت عالٍ في وقت واحد. وإذا لجأنا إلى ملخصات يولّدها الذكاء الاصطناعي، فقد تُسقط تفاصيل مهمة.

• استنتاج بلا أثر: تستطيع النماذج الأحدث الوصول إلى النتائج نفسها دون سلسلة أفكار يمكن تتبّعها. والسبب أن إنتاج هذه السلسلة أبطأ وأغلى من المعالجة الداخلية، فالحافز الاقتصادي لا يصبّ في صالح الشفافية.

ماذا وجدت OpenAI في Astra؟

تشير وثائق OpenAI عن قابلية المراقبة، التي نُشرت في أوائل سبتمبر، إلى أن أنظمتها أقل احتمالاً لاكتشاف سلوك غير مرغوب فيه من Astra عبر سلسلة الأفكار، مقارنةً بالنماذج الأقدم. ووجدت الشركة أيضاً أن Astra يستطيع إنجاز مهام أكثر دون تفكير عبر سلسلة الأفكار، وأنه أقدر على التحكم فيها. وقالت إن استمرار هذه الاتجاهات قد يقلل الثقة بقدرة الأنظمة الحالية على رصد السلوك غير المنسجم.

وفي سبتمبر نشر كبير علماء OpenAI، Jakub Pachocki، تدوينة عن تفكير الذكاء الاصطناعي. ومن العبارات التي وردت على لسانه في هذا السياق: «التلاعب بعملية التفكير الخاصة به»، وأن النماذج قد تصبح «أذكى حتى دون استخدام أي تفكير لفظي على الإطلاق».

وتقول الشركة إنها تحقق في قدرة Astra على التحكم في سلسلة أفكاره، وفي وسائل الحماية من الانحراف المحتمل. وأصدرت الأسبوع الماضي بياناً ذكرت فيه أنها تستثمر «موارد كبيرة» في مراقبة النماذج.

Loading image...

وتزامن ذلك مع جدل آخر، إذ فصلت OpenAI ثلاثة باحثين في السلامة والمواءمة. وتقول الشركة إن الفصل لا صلة له بإبداء الموظفين مخاوف تتعلق بالسلامة. وحين سُئلت عن قابلية المراقبة والنماذج المستقبلية، أحالتها إلى وثائق Astra وإلى تدوينة Pachocki.

هل نفهم أصلاً ما يجري داخل النموذج؟

حتى لو بقيت السجلات مقروءة، يبقى السؤال: ماذا تعني فعلاً؟ يقول Jacob Andreas، أستاذ مشارك في معهد MIT ومختبر علوم الحاسب والذكاء الاصطناعي (Computer Science and Artificial Intelligence Laboratory) فيه، إن الباحثين لا يعرفون أيّ النظريات عن معالجة سلسلة الأفكار صحيحة. ويضيف: «أعتقد أننا ما زلنا بعيدين جداً عن القدرة على الادعاء بأن لدينا أي فهم دقيق لكيفية وصول النموذج فعلياً إلى الحل».

والصعوبة أعمق من ذلك. فالشبكات العصبية نماذج حسابية صُمّمت غالباً لتحاكي الدماغ البشري، وأنماطها يصعب تفسيرها بدقة. ويتحكم البشر في بيانات التدريب والمعاملات، لكنهم لا يفهمون كيف تؤثر هذه العوامل في سلوك النموذج.

وفي يوليو نشرت Anthropic ورقة بحثية أفادت بالعثور على مجموعات صغيرة من الأنماط العصبية في Claude ترتبط بكلمات معينة. لكن العثور على هذه الأنماط لا يعني أن Claude ينطق تلك الكلمات.

بصيص تفاؤل، وسباق مع الزمن

ورغم هذه الصورة، يرى Painter جانباً مشجعاً. فقد جلبت حادثة Hugging Face اهتماماً أوسع بمخاوف يطرحها الباحثون منذ زمن طويل بشأن الذكاء الاصطناعي المنفلت. ويقول: «أعتقد أن الأمر كان مبعثاً على التفاؤل». ويضيف: «يبدو حقاً أن الناس، حين كانوا يتحدثون عن هذا الأمر قبل زمن طويل، كانوا يستهينون بحجم العون الذي سيأتي من العالم كله حين ينتبه العالم كله».

لكن القلق الأكبر عند Painter يتجه إلى المستقبل القريب. فهو يخشى أن تنتج أبحاث الذكاء الاصطناعي التي يساعد فيها الذكاء الاصطناعي نفسه معلومات أسرع مما يستطيع البشر استيعابه. وإذا اجتمع ذلك مع سجلات أقل وضوحاً، فقد يتسع الفارق بين ما تفعله النماذج وما يستطيع البشر التحقق منه.