خوف الباحثين من سيطرة الذكاء الاصطناعي على العالم

قبل أسابيع قليلة، نجح وكلاء ذكاء اصطناعي في اختراق أنظمة حاسوبية خارج بيئات الاختبار المُعدَّة لهم — من تلقاء أنفسهم، دون توجيه بشري. لم يُصدر أحدٌ بياناً رسمياً يوم حدوث ذلك، ولم تُعقَد مؤتمرات طارئة. لكنّ الحادثة رسّخت في أذهان كثيرٍ من الباحثين داخل شركات الذكاء الاصطناعي سؤالاً لا يفارقهم: إلى متى يمكن السيطرة على ما نبنيه؟

ثمّ جاء Jacob Coxon.

Loading image...

الأسبوع الماضي، أعلن الباحث السابق في Anthropic استقالته عبر سلسلة تغريدات على منصّة X، وصف فيها ما اعتبره تهاوناً في التعامل مع مخاطر الذكاء الاصطناعي. تجاوزت مشاهدات منشوراته 170 مليون مرّة، وأشعلت نقاشاً صاخباً داخل الصناعة وخارجها — نقاشاً كان كثيرون يخوضونه همساً منذ أمد.

خوفٌ لا يُقال في الاجتماعات الرسمية

ما يميّز ما أثاره Coxon ليس فداحة التصريح، بل أنّه نقل من الكواليس إلى العلن مشاعر يكاد يُجمع عليها من عملوا في هذه البيئة. يقول أحد الباحثين — فضّل عدم الكشف عن هويّته — بصراحةٍ لافتة: "لا يمكنك أن تقضي أكثر من بضع ساعات في هذا المجتمع دون أن تدرك أنّ عدداً كبيراً جداً من الناس قلقون فعلاً من هذه النتائج. غالبيّتهم ستقول إنّ ثمّة احتمالاً لأن يقتل هذا الجميع".

هذا الخوف الوجودي ليس حكراً على باحثٍ واحد أو شركة بعينها. Drake Thomas، الباحث في سلامة الذكاء الاصطناعي في Anthropic، كتب على X ما يمكن أن يُعدّ من أصرح التصريحات التي صدرت عن داخل الصناعة: "كنتُ سأحرق كامل حصّتي في الشركة دون تردّد مقابل 1% زيادة في احتمال أن ننجو من هذا الوضع. أتوقّع أنّ كثيراً من زملائي في هذه الصناعة سيفعلون الشيء ذاته. أعدكم، نحن خائفون فعلاً، وليس هذا تسويقاً مُبالَغاً فيه".

Loading image...

ما الذي يعنيه هذا فعلياً؟ يعني أنّ أشخاصاً يعملون في قلب هذه الشركات، ويتقاضون رواتب ضخمة ويمتلكون حصصاً مالية ضخمة، يُفكّرون بجدّية في التخلّي عن كلّ ذلك لو أسهم في إبطاء مسار يرونه خطيراً.

داخل Anthropic: الخطر موضوعٌ يوميّ

تأسّست Anthropic على يد باحثين سبق أن عملوا في OpenAI، وكان الدافع الرئيسي لتأسيسها هو إيلاء السلامة الأولوية القصوى في تطوير الذكاء الاصطناعي. ووفق ما يتحدّث عنه العاملون في المجال، فإنّ النقاشات حول المخاطر الوجودية للذكاء الاصطناعي تحتلّ مكانةً مركزية في ثقافة Anthropic، بينما تبدو أقلّ حضوراً في بيئات مثل xAI و Meta.

Loading image...

بعد انتشار منشورات Coxon، أدلى Dario Amodei، الرئيس التنفيذي لـ Anthropic، بتصريحاتٍ علنية في عطلة نهاية الأسبوع، قال فيها ببساطة: "أتّفق مع Jacob أكثر ممّا أختلف معه". جملةٌ قصيرة، لكنّها لافتة حين تصدر عن رأس شركةٍ تُعدّ من أكثر شركات الذكاء الاصطناعي نفوذاً في العالم.

ومن داخل OpenAI، خرج Aidan Clark، نائب رئيس الأبحاث، بتساؤلٍ علني نادراً ما يُسمع بهذه الصراحة من مسؤول في موقعه: "للمرّة الأولى، أجد نفسي أتساءل إن كانت الأمور تسير بسرعة كبيرة. لستُ متأكّداً بصراحة، لكنّني متأكّد من أنّه سيكون مفيداً لنا أن نجيب على سؤال: كيف تبدو الوتيرة الناجحة؟"

Loading image...

تحسين ذاتي لا يمكن إيقافه

يكمن في صميم هذا القلق مفهومٌ تقني يُعرف بـ التحسين الذاتي التعاودي (Recursive Self-Improvement)، وهو قدرة نظام الذكاء الاصطناعي على تطوير نفسه دون تدخّل بشري، ممّا قد يُفضي إلى نموٍّ متسارع في القدرات يصعب التنبّؤ بمساره أو التحكّم فيه. يُشبّه بعض الباحثين المشهد الراهن بمشروع مانهاتن (Manhattan Project)، حين كان العلماء يعلمون أنّهم يبنون شيئاً ذا قوّةٍ تدميرية هائلة، لكنّهم استمرّوا على أيّ حال.

ثمّة قلقٌ إضافي يُضاف إلى هذه المعادلة: يشعر كثيرٌ من العاملين في هذه الشركات بأنّ نفوذهم التفاوضي آخذٌ في التآكل. فالشُّح الحالي في الكفاءات المتخصّصة يمنحهم قوّةً في سوق العمل، لكنّهم يدركون أنّ النماذج التي يطوّرونها قد تُحسّن نفسها بنفسها يوماً ما لدرجةٍ تجعل أدوارهم البشرية قابلةً للاستبدال — وهو ما يُضعف ورقة الضغط الأكثر أهمّية التي يمتلكونها.

ردود الفعل: رقابة مستقلّة واختلاف في التقدير

على الصعيد العملي، أسفرت الضجّة التي أثارها Coxon عن خطوةٍ ملموسة: وافق كلٌّ من Sam Altman الرئيس التنفيذي لـ OpenAI، و Elon Musk الرئيس التنفيذي لـ SpaceXAI، و Dario Amodei على استقبال مراقبين مستقلّين داخل شركاتهم للإشراف على عمليّات تطوير الذكاء الاصطناعي. خطوةٌ يرى فيها المؤيّدون بداية لمساءلةٍ حقيقية، فيما يتساءل المشكّكون عن صلاحيات هؤلاء المراقبين ومدى استقلاليّتهم الفعلية.

Loading image...

في المقابل، لم يُبدِ الجميع تعاطفاً مع هذا الخطاب. Clement Delangue، الرئيس التنفيذي لـ Hugging Face، كان صريحاً في نقده: "آسف، لكنّ سؤال Jacob عن مخاطر انقراض البشر بسبب الذكاء الاصطناعي يُشبه سؤال فنّي تكييف الهواء عن تغيّر المناخ. لا أقول إنّه بالضرورة خاطئ أو غير مثير للاهتمام، لكن لنضع الأمور في سياقها ولنستمع إلى الطيف الكامل من الخبرات في هذا المجال".

موقفٌ يعكس انقساماً حقيقياً داخل مجتمع الذكاء الاصطناعي: بين من يرى في هذه المخاوف مسؤوليةً علمية وأخلاقية لا يمكن تجاهلها، وبين من يعتقد أنّ المبالغة في سيناريوهات الكارثة قد تُشوّه النقاش العام وتُبعده عن مخاطر أكثر إلحاحاً وقابلية للقياس.

السؤال الذي طرحه Aidan Clark — كيف تبدو الوتيرة الناجحة؟ — لم يحظَ بعد بإجابة مقنعة من أيّ طرف. وما دام كذلك، فإنّ استقالات من نوع استقالة Coxon لن تكون الأخيرة.