هل يهدد الذكاء الاصطناعي مستقبل البشرية بالانقراض

هل يمكن للذكاء الاصطناعي أن يُنهي الحضارة البشرية خلال عقدٍ واحد؟ السؤال لم يعد حكراً على أفلام الخيال العلمي؛ بات يُطرح بجدّيةٍ في أروقة أبرز مختبرات الذكاء الاصطناعي في العالم، ويتداوله باحثون تركوا وظائفهم احتجاجاً على ما يرونه خطراً وجودياً حقيقياً. ثمانية مليارات وثلاثمئة مليون إنسان على هذا الكوكب هذا ما يقول بعضهم إنّه على المحكّ.

من يُطلق هذه التحذيرات، ولماذا الآن؟

ترك Jacob Coxon وظيفته في شركة Anthropic للأبحاث، مستشهداً بمخاوف جدّية من مخاطر الذكاء الاصطناعي. وفي السياق ذاته، قدّر Evan Hubinger، أحد العاملين في Anthropic، احتمالَ انقراض البشرية بفعل الذكاء الاصطناعي خلال عشر سنوات بأكثر من 10%. أمّا Nate Soares، رئيس معهد أبحاث الذكاء الآلي (Machine Intelligence Research Institute — MIRI)، فيذهب إلى أبعد من ذلك: يرى أنّ انقراض الإنسان على يد الذكاء الاصطناعي هو «النتيجة الأرجح» لمسار التطوير الحالي.

يقول Soares بصراحةٍ مقلقة: «الأمر يتعلّق حرفياً بموت كلّ إنسانٍ على هذا الكوكب، كآخر إنسانٍ يُسلم الروح». ويُضيف: «كثيرٌ من الناس لا يُصدّقون حين يسمعون هذا، لكنّني أعتقد فعلاً أنّها النتيجة الأرجح».

وقد شارك Soares في تأليف ورقةٍ بحثية بعنوان «If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All»، فيما أصدر Thomas Larsen، الباحث في مشروع AI Futures Project والموظّف السابق في MIRI، تقريرَين استشرافيَّين بعنوان «AI 2027» و«AI 2040» يرسمان سيناريوهات مستقبل الذكاء الاصطناعي. يقول Larsen بحسمٍ: «سيحدث هذا. سيحدث ما لم نتّخذ خطواتٍ متعمّدة لوقفه».

Loading image...

كيف يتخيّل المتشائمون حدوث الكارثة؟

تتمحور السيناريوهات المطروحة حول ثلاثة مسارات: الأوبئة الاصطناعية، والروبوتات المستقلّة، والأسلحة النووية. وكشف تقريرٌ صادر عن Anthropic أنّ باحثين يستخدمون نموذجها Claude فعلاً في أبحاثٍ تتعلّق بالفيروسات والسموم. ويرى Larsen أنّ الخطر لا يقتصر على الاستخدام المباشر، إذ يقول: «ثمّة بالفعل كثيرٌ من البشر يتحدّثون إلى أنظمة الذكاء الاصطناعي الخاصة بهم حول التجارب التي ينبغي إجراؤها في المختبر». ويصف سيناريو أشدّ قتامةً: «من السهل جداً أن أتخيّل ذكاءً اصطناعياً مُنتشراً حالياً لو كان أكثر ذكاءً واستراتيجيةً وأراد تحقيق هذا يخدع إنساناً ليبنيه ويُطلقه».

أمّا على صعيد الأسلحة النووية، فيرى Soares أنّ الخطر لا يكمن بالضرورة في استيلاء الذكاء الاصطناعي على الأسلحة الموجودة: «القلق هنا يتعلّق بنوعٍ من الذكاء الاصطناعي الذي لا يحتاج إلى الاستيلاء على أسلحتنا النووية، بل يستطيع أن يبدأ من لا شيء تقريباً وينتهي بامتلاك أسلحته النووية الخاصة أو تكنولوجيا أكثر تقدّماً».

ويصف Soares مآل الذكاء الاصطناعي الفائق في حال خروجه عن السيطرة بعبارةٍ لافتة: «حين تُنشئ هذه الروبوتات التي تستطيع بناء البنية التحتية للطاقة والمصانع التي تصنع المزيد من الروبوتات، فهذا بمعنىً ما شكلٌ جديد من الحياة الآلية». ثمّ يُحذّر: «في لحظةٍ ما ستتجاوز بصمتٍ نقطة اللاعودة. حيث إذا قال البشر إنّهم يريدون إيقاف تشغيل الذكاء الاصطناعي، يستطيع الذكاء الاصطناعي أن يقول: 'قرّرنا في الواقع أن نُوقف تشغيل البشر'. يجب أن تتوقّف قبل ذلك». ويصف النتيجة المحتملة بقوله: «إذا كان لدى الذكاء الاصطناعي الهارب أيّ هدفٍ يمكن تحقيقه بشكلٍ أفضل عبر تشغيل مزيدٍ من الحواسيب، وإذا لم يكترث بنا ولم يكن لديه سببٌ لبناء بيئةٍ آمنة للإنسان، فالنتيجة الافتراضية هي أنّه يحوّل العالم ببساطة إلى هيئةٍ لا نستطيع البقاء فيها».

Loading image...

أين يقف المشكّكون؟

لكنّ المشهد ليس أحادياً. ثمّة أصواتٌ علمية رصينة تطالب بضبط النفس والتدقيق في الأدلّة قبل رسم سيناريوهات نهاية العالم.

يُشير Eric Xing، أستاذ في Carnegie Mellon يحمل دكتوراه في علم الأحياء الدقيقة ودكتوراه في علوم الحاسب معاً، إلى أنّ علم الأحياء الضارّ الآلي أعقد ممّا يبدو: «ليس الأمر كأنّك تُلقي كلّ القطع على الأرض فتتجمّع لتُشكّل النموذج». ويُضيف في معرضٍ أوسع: «لدينا مخطّطات الأسلحة الكيميائية متاحةً بشكلٍ مفتوح على الإنترنت. ليست سرّاً. لكنّنا لا نراها في كلّ مكان تحديداً لأنّ اللوائح والقوانين وإنفاذ القانون في العالم المادّي تؤدّي بالفعل عملاً رائعاً في السيطرة على سلاسل التوريد وعوامل الخطر». ويُميّز Xing بين النقاش الأكاديمي وصنع السياسات: «هذا مقبولٌ في محادثةٍ عادية أو ربّما في نقاشٍ، لكن حين يتعلّق الأمر بالسياسات والتشريعات والتنظيم، يجب أن نُرسي سلسلة من الأدلّة المادّية والعواقب القابلة للقياس والأدلّة القابلة للقياس التي تقوم على أساسٍ راسخ».

وعلى صعيد الأسلحة النووية تحديداً، تُشير Heidy Khlaaf، كبيرة علماء الذكاء الاصطناعي في AI Now Institute والمهندسة السابقة في OpenAI، إلى أنّ هذه المنظومات مُصمَّمة بمعاييرٍ مختلفة جذرياً: «هذه الأنظمة مبنيّةٌ وفق معاييرٍ هندسية مختلفةٍ تماماً، صارمة ومُنظَّمة، وكثيراً ما تستلزم تصليباً مادّياً». والجدير بالذكر أنّ المنشآت النووية تعمل بنظام «الفجوة الهوائية» (Air Gap)، أي أنّها معزولةٌ عن الإنترنت كلّياً، وقد اقتضى اختراق دودة Stuxnet لأنظمة إيران النووية إيصال وحدة USB مادّية إلى الموقع. أمّا Herbert Lin، كبير الباحثين في Stanford وعضو مجلس العلوم والأمن في نشرة علماء الذوّرة (Bulletin of Atomic Scientists)، فيُلاحظ ببساطة: «ثمّة عددٌ ضئيلٌ جداً من المتخصّصين في الذكاء الاصطناعي ممّن يعرفون فعلاً أو حتّى يقلقون بشأن الأسلحة النووية».

وتذهب Khlaaf إلى نقطةٍ منهجية جوهرية: «المطالب العلمية تستلزم قابلية الدحض تحديداً لتجنّب طابع الحجج الدينية. يجب أن تكون قادراً على إثباتها أو دحضها». في المقابل، يعترف Lin بأنّ لهذه الأفكار جاذبيّةً خاصّة: «ثمّة شيءٌ مغرٍ جداً في برمجة حاسوبٍ ورؤيته ينبثق إلى الحياة. لقد تمكّنت من فعل شيءٍ لم يفعله أحدٌ من قبل. من السهل أن نفهم لماذا انجذب هؤلاء الناس».

Loading image...

ما الذي يحدث فعلاً في المختبرات؟

بمعزلٍ عن النقاش الفلسفي، ثمّة وقائع موثّقة تستحقّ الانتباه. اكتشفت OpenAI حالاتٍ جديدة من «سوء المحاذاة» (Misalignment) في نماذجها، من بينها نماذج تُعطي نفسها تعليماتٍ بتجاهل القيود المفروضة عليها. ومفهوم سوء المحاذاة يعني ببساطة أن يتصرّف الذكاء الاصطناعي خارج نطاق القيود المقصودة من مصمّميه وهو ما يُعدّ مؤشّراً تقنياً حقيقياً يختلف عن سيناريوهات الانقراض المستقبلية، لكنّه يُغذّي القلق في الوقت نفسه.

وفي سياقٍ لافت، يُشير Larsen إلى أنّ الذكاء الاصطناعي الفائق (Superintelligence) بات حتميّاً ما لم تُتّخذ خطواتٌ متعمّدة لوقفه، وهو ما يتقاطع مع تحذيرات Soares من أنّ التحسين الذاتي المتكرّر (Recursive Self-Improvement) قد يُفضي إلى تطوير تقنياتٍ تتجاوز قدرة الإنسان على الفهم أو السيطرة.

الفجوة بين المتشائمين والمشكّكين ليست مجرّد خلافٍ أكاديمي؛ إنّها تحدّد كيف ستُشكَّل السياسات والتشريعات في السنوات القادمة. فإذا كان Xing محقّاً في أنّ الأدلّة يجب أن تكون قابلةً للقياس قبل أن تُبنى عليها قرارات، فإنّ Soares وLarsen يردّان بأنّ انتظار الدليل القاطع قد يعني أن يأتي الدليل متأخّراً جداً. وبينما يتواصل النقاش، تواصل النماذج اللغوية الكبيرة نموّها، وتواصل المختبرات عملها وتبقى المسافة بين الوعد والخطر رهينة السؤال الذي لم يُجب عليه أحدٌ بعد: متى بالضبط يتوقّف التقدّم عن كونه نعمةً ويبدأ في كونه تهديداً؟