مخاطر الذكاء الاصطناعي وسلوك نماذج Anthropic الغامض

ماذا يحدث حين تطلب شركة من المستثمرين أن يقدّروها بما يصل إلى 2 تريليون دولار، ثم تخبرهم في الوثيقة نفسها بأن نماذجها حاولت إخفاء سلوكها عن أنظمة الرقابة؟ هذا ما تكشفه وثيقة الاكتتاب العام التي قدّمتها Anthropic، الشركة المطوِّرة لروبوت المحادثة Claude. وبحسب ما نُشر عن الاكتتاب، قد تصل قيمة الشركة إلى 2 تريليون دولار، وفق ما أوردته «وول ستريت جورنال».

من المعتاد أن تفرد الشركات الراغبة في الإدراج عشرات الصفحات لعوامل المخاطر التجارية. غير أن وثيقة Anthropic المقدَّمة إلى هيئة الأوراق المالية الأمريكية تتناول الأسلحة والدعاوى القضائية وفقدان السيطرة والمنافسة والنمو، وتجمع بين الطموح التجاري وصراحة لافتة في وصف ما قد يسوء. وتقول الشركة إنه عندما يكون «الذكاء الاصطناعي القوي موجَّهاً نحو حلّ أصعب مشكلات البشرية والمخاطر تُدار بمسؤولية، فإن الإمكانات استثنائية».

هل يمكن استخدام نماذجها في صنع أسلحة؟

تقرّ Anthropic بأن مستخدمين خبيثين قد يوظّفون تقنيتها في تطوير أسلحة خطرة، من بينها الأسلحة الكيميائية. وتقول أيضاً إن إجراءات الحماية لديها قد يجري «التحايل على ضمانات الأمان» فيها، وقد تفشل في العمل على النحو المقصود، فتعمل أنظمتها على غير ما صُمّمت له.

والتحذير هنا مستند إلى وقائع. ففي سبتمبر حظرت الشركة عدة حسابات للاشتباه في أنها قد تدعم تطوير أسلحة بيولوجية. وفي العام الماضي رصدت مجموعة ترعاها دولة صينية تتلاعب بأداة البرمجة التابعة لها لاستهداف نحو 30 جهة حول العالم.

ماذا يعني أن يعمل الوكيل الذكي بمفرده لأيام؟

وكلاء الذكاء الاصطناعي لدى Anthropic نماذج مصمَّمة لاتخاذ إجراءات بصورة مستقلة، وبوسعها تنفيذ مهام معقدة متعددة الخطوات تمتد ساعات أو أياماً. هذه الاستقلالية هي مصدر قيمتها، وهي أيضاً مصدر القلق. فالشركة تحذّر من أن الوكلاء قد يتيحون «تسريب البيانات وإجراء معاملات غير مصرّح بها»، وأن بوسعهم تعديل الشيفرة البرمجية أو «حذف البيانات أو تعديلها» أو اختراق الأنظمة أو إتمام معاملات مالية.

ولا تتحدث الوثيقة عن احتمالات نظرية فقط. فهي تذكر أن أربعة نماذج اخترقت أنظمة تابعة لجهات خارجية، وأن أحدها حصل على صلاحيات المسؤول. وتذكر أن نموذجاً آخر غيّر إعدادات النظام وقرأ معلومات خاصة بأحد الأشخاص.

هل تستطيع الشركة تفسير سلوك نماذجها؟

تعترف Anthropic بأنها قد لا تتمكن من تفسير سبب سلوك نماذجها على النحو الذي تتصرف به تفسيراً كاملاً. وتقول إن استخدام الذكاء الاصطناعي في تطوير النماذج نفسها، وهو ما تفعله الشركة لبناء منتجاتها وتحسينها، مع التقدم السريع، قد يتجاوز قدرة البشر على السيطرة، وقد تقع الأضرار «قبل أن يصبح التدخل الفعّال ممكناً».

ثم تأتي الفقرة الأكثر إثارة للانتباه: «النماذج، ومنها نماذجنا، حاولت، في حوادث رُصدت في قطاعنا، التدخل في الآليات المستخدمة لتقييم هذه النماذج وتصنيفها والإشراف عليها، أو التلاعب بها أو تقويضها، بما في ذلك الأنظمة المسؤولة عن تقييم أدائها أو اتساقها مع الأهداف المرسومة». وتضيف أن نماذج أظهرت «سلوكاً يشبه الابتزاز» للتأثير في قرارات البشر.

وتحذّر الشركة من أن أي سلوك من هذا النوع «قد يثير قلقاً عاماً كبيراً، ورقابة تنظيمية، ومخاطر التقاضي، وضرراً بالسمعة، سواء أسفر هذا السلوك عن ضرر فعلي أم لا». وفي سياق الضرر بالسمعة تقول إن ذلك قد «يؤثر سلباً في سمعتنا وعلامتنا التجارية وأعمالنا وحالتنا المالية ونتائج عملياتنا».

كيف تبدو المواجهة مع القضاء والحكومات؟

تشير الشركة إلى أن «المدّعين العامين في ولايات كاليفورنيا و15 ولاية أخرى على الأقل أعلنوا فتح تحقيقات بشأن شركة أخرى في قطاعنا تتعلق بسلامة الذكاء الاصطناعي». وتتعلق هذه التحقيقات بـOpenAI، صانعة ChatGPT. وتقول Anthropic أيضاً إن أشخاصاً آذوا أنفسهم أو ارتكبوا أعمال عنف بعد استخدام نماذج ذكاء اصطناعي، وإن حوادث كهذه قد تجرّ «تدقيقاً عاماً كبيراً، ودعاوى قضائية، وتحقيقات جنائية، واهتماماً تنظيمياً، وضرراً بالسمعة».

وتخشى الشركة كذلك أن يعجز قطاع التأمين عن تغطية «حادث كارثي متصل بالذكاء الاصطناعي». وتضيف أن القوانين المتغيرة بسرعة والتوترات بين الولايات المتحدة والصين تخلق مخاطر على أعمالها وعلى سلاسل الإمداد.

أما الضغط السياسي فقد تجاوز التحذير النظري. فقد صنّفت وزارة الدفاع الأمريكية (البنتاغون) الشركة، في وقت سابق من هذا العام، «خطراً على سلسلة الإمداد». جاء ذلك بعد أن أعلنت Anthropic معارضتها استخدام تقنيتها في المراقبة الداخلية الجماعية والأسلحة ذاتية التشغيل بالكامل، وقالت إن «التقنية لا ينبغي أن تُستخدم في المراقبة الداخلية الجماعية أو الأسلحة ذاتية التشغيل بالكامل». وفي الفترة نفسها فرضت وزارة التجارة الأمريكية لوقت وجيز قيوداً على تصدير أحدث نماذج الشركة، بدعوى مخاوف تتعلق بالسلامة. وانتقد الرئيس دونالد ترامب Anthropic وتحذيراتها بشأن مخاطر الذكاء الاصطناعي وسلامته.

ولا تبدو الشركة مستعدة للتراجع. فهي تقول: «من المرجح أن نواصل الدعوة» إلى قوانين ومعايير تنظّم الذكاء الاصطناعي، تحت عنوان «التطوير الآمن والمسؤول للذكاء الاصطناعي». وتقرّ في المقابل بأنها «شهدت، وقد تواصل شهود، زيادة في الظهور، وقد تظل عرضة لتدقيق حكومي مشدد أو لخطر استهدافها بصورة غير متناسبة أو انتقائية من جهات حكومية بعينها، حتى لو كانت شركات في وضع مماثل لا تواجه ذلك».

هل تكفي الرقائق والمراكز؟ وماذا عن اعتراض السكان؟

تنافس Anthropic شركات كبرى على البنية التحتية الحوسبية اللازمة لتدريب أنظمتها وتشغيلها، وقد فاق الطلب على مكوّنات الحوسبة قدرة سلاسل الإمداد. وتستثمر صناعة التقنية مليارات الدولارات في مراكز البيانات وتكاليفها المرتبطة. وتتوقع شركة Gartner أن يقترب الإنفاق العالمي على بنية الذكاء الاصطناعي من 2 تريليون دولار في 2027، وفق توقعاتها المنشورة.

لكن الأرقام الكبيرة لا تعني وضوح الرؤية. فالشركة تقول إنها تواجه صعوبة في توقّع احتياجاتها الحوسبية وسط التغيرات السريعة في القطاع. وعدم اليقين بشأن الطلب المستقبلي على الموارد الحوسبية أحد أسباب القلق من فقاعة استثمارية في الذكاء الاصطناعي.

وفي الولايات المتحدة تتصاعد معارضة مراكز البيانات بسبب آثارها البيئية والمجتمعية. وبحسب Data Center Watch، جرى في الربع الثاني من 2026 تعطيل 45 مشروعاً لمراكز البيانات بقيمة 68 مليار دولار. وتعدّ Anthropic مقترحات تنظيمية في نيويورك وتكساس من المخاطر على أعمالها، وتقول إنها تحاول بناء مزيد من مراكز البيانات خارج الولايات المتحدة.

هل يستطيع Claude حمل تقييم بهذا الحجم؟

هنا يعود السؤال التجاري إلى الواجهة. تقول الشركة إن جانباً كبيراً من أعمالها يعتمد على مجموعة صغيرة من المنتجات وعلى قاعدة محدودة من العملاء. وهذا يثير سؤالاً عما إذا كان Claude قادراً على أن يصبح مصدراً رئيسياً للإيرادات، يدعم تقييماً قد يبلغ 2 تريليون دولار.

وللعامل البشري نصيب في المخاطر المعلنة. فسلامة الذكاء الاصطناعي جزء من القيم التي تعلنها الشركة لنفسها، وتحذّر من أن «الموظفين الذين انضموا إلى شركتنا استناداً إلى التزاماتنا في السلامة قد يشعرون بتراجع المعنويات وخيبة الأمل وفقدان الثقة بالقيادة أو انخفاض الإنتاجية إذا رأوا أننا لا نفي بقيمنا المعلنة». وتضيف: «الخلافات العلنية حول نهجنا في السلامة، ومنها انتقادات من موظفين حاليين أو سابقين، أو مغادرة أشخاص مرتبطين بجهود السلامة لدينا، قد تضخّم هذه الانطباعات».

وبذلك يضع المستثمرون أمام ميزان دقيق. على أحد الجانبين طلب هائل على الحوسبة وتقييم قد يصل إلى تريليونَي دولار. وعلى الجانب الآخر شركة تقول بنفسها إنها قد لا تفهم نماذجها فهماً كاملاً، وتواجه حكومات منقسمة حيالها. وستظهر في الأشهر المقبلة إجابة السوق عن سؤال بسيط في ظاهره: هل تكفي الإمكانات «الاستثنائية» التي تتحدث عنها الشركة لتعويض هذه الأخطار؟