مواجهة أنثروبيك بين النمو والأخلاقيات
تواجه شركة أنثروبيك تحديات كبيرة بين التوسع والتمسك بالمبادئ الأخلاقية. بينما تتعرض لضغوط من البنتاغون، يتعين عليها اتخاذ قرارات حاسمة قد تؤثر على سمعتها. تعرف على تفاصيل هذه المعضلة المثيرة في خَبَرَيْن.
لقد وصلت شركة أنثروبيك إلى مفترق طرق مألوف بالنسبة لشركة تقنية متنامية: كيفية التوسع دون المساس بالمبادئ التي تميزها.
جعلت شركة الذكاء الاصطناعي من السلامة مبدأها الإرشادي. ودافعت عن تنظيم الذكاء الاصطناعي ودعت إلى حماية العمال حيث يحل الذكاء الاصطناعي محل بعض المهام البشرية. عملت أنثروبيك بجد لإرسال رسالة محددة للعملاء: نحن الأخيار.
ومع ذلك، فإن الحواجز التي فرضتها الشركة على نفسها لبناء هذه العلامة التجارية قد تشكل الآن عقبات أمام نجاحها.
هذا الأسبوع، أعطت وزارة الدفاع الأمريكية (البنتاغون) لشركة أنثروبيك إنذاراً نهائياً: إما أن تتخلى عن القيود الأخلاقية للذكاء الاصطناعي أو تخسر عقدك البالغ 200 مليون دولار وتواجه وضعك على القائمة السوداء. وفي سياق منفصل، هذا الأسبوع أيضاً، خففت أنثروبيك من سياسة السلامة الأساسية الخاصة بها للتكيف بشكل أفضل مع سوق سريع الحركة قد لا يلتزم فيه المنافسون بمعايير السلامة نفسها.
من غير الواضح كيف سيؤثر هذا الأسبوع على أعمال أنثروبيك وسمعتها، لكن قراراتها ستكون لها عواقب وخيمة.
نحن نعلم ذلك، لأن معضلة أنثروبيك هي معضلة مألوفة في صناعة التكنولوجيا. فالعديد من الشركات تروّج لقيمها وأخلاقياتها، لتواجه قرارات صعبة تجبرها على الاختيار بين النمو والحفاظ على تلك المُثُل العليا.
قد ترغب شركة أنثروبيك في أن تأخذ علماً بذلك.
OpenAI وعطلة نهاية الأسبوع في سام
منذ أكثر من عامين بقليل، عانى أكبر منافس لأنثروبيك من معارضة بسبب النمو على حساب السلامة.
في واحدة من أكثر دراما مجالس الإدارة غرابة في تاريخ الشركات، قامت شركة OpenAI المنافسة الرئيسية لشركة أنثروبيك بفصل مؤسسها ورئيسها التنفيذي سام ألتمان بشكل مفاجئ في يوم جمعة من شهر نوفمبر من عام 2023، لتعيد تعيينه في يوم الثلاثاء التالي.
تضمنت هذه الملحمة هيكلاً مؤسسيًا فريدًا من نوعه وضع الشركة الربحية سريعة النمو التي كانت تعمل تحت رعاية مجلس إدارة غير ربحي. قبل أربع سنوات، كانت الشركة قد كتبت في ميثاقها أن OpenAI لا تزال "قلقة" بشأن قدرة الذكاء الاصطناعي على "إحداث تغيير سريع" للبشرية. كان المشرفون على الشركة يخشون من أن ألتمان كان يتحرك بسرعة كبيرة لدرجة أنه كان يخاطر بتقويض السلامة التي تعهدت الشركة بتوفيرها.
لكن إقالة ألتمان أدت إلى تهديدات بهجرة جماعية للموظفين وهو وضع لا يمكن الدفاع عنه وكان يمكن أن يؤدي إلى تدمير الشركة. لذا قام مجلس الإدارة بعد أيام فقط بإعادة تعيين ألتمان. تم حل مجلس الإدارة بعد فترة وجيزة، وغيّر ألتمان هيكل الشركة العام الماضي لتحرير نفسها من المشرف غير الربحي.
ومنذ ذلك الحين كافحت OpenAI لتحقيق التوازن بين السرعة والسلامة، وواجهت العديد من الدعاوى القضائية التي تقول أن منتجاتها أقنعت الشباب بإيذاء أنفسهم. وتنفي OpenAI هذه الاتهامات.
أبل ومطلق النار في سان برناردينو
قتل سيد فاروق وزوجته، تاشفين مالك، 14 شخصًا في مركز إنلاند الإقليمي في سان برناردينو بولاية كاليفورنيا في ديسمبر 2015. توفي الزوجان لاحقًا في تبادل لإطلاق النار مع الشرطة.
حصل المحققون على إذن لاسترداد البيانات من هاتف آيفون الخاص بفاروق، لكنهم لم يتمكنوا من الدخول إليه لأنه كان مقفلاً برمز مرور. أمر قاضٍ في كاليفورنيا شركة أبل بمساعدة ضباط إنفاذ القانون في الوصول إلى الهاتف.
ولكن في رسالة مفتوحة، موقعة من الرئيس التنفيذي لشركة آبل تيم كوك، رفضت الشركة. وقال كوك إن أمر القاضي سيفتح "بابًا خلفيًا للآيفون"، وهو "أمر نعتبره خطيرًا للغاية". وقالت الشركة إنها لا تتعاطف مع الإرهابيين، ولكن الامتثال للأمر سيمنح السلطات الحكومية "القدرة على الوصول إلى جهاز أي شخص لالتقاط بياناته".
تلقت شركة آبل الكثير من الانتقادات بسبب قرارها بما في ذلك من المرشح الرئاسي آنذاك دونالد ترامب. ولكنها حصلت منذ ذلك الحين على إشادة واسعة النطاق لدفاعها عن خصوصية عملائها، والتي أصبحت منذ ذلك الحين مرادفًا لعلامة الشركة التجارية.
تروّج الشركة الآن بشكل روتيني أنها لن تبيع بيانات العملاء أو تخزن معلومات شخصية معينة على خوادمها، في محاولة لتمييز نفسها عن جوجل، أحد منافسيها الرئيسيين.
Etsy مقابل البائعين المنفردين
بينما كانت إمبراطورية أمازون للتجارة الإلكترونية قد بدأت للتو في الإقلاع في أوائل العقد الأول من القرن الحادي والعشرين، ظهرت Etsy كبديل جديد حيث يمكن للمتسوقين العثور على سلع يدوية فريدة من نوعها.
لكنها أجرت تغييرًا مثيرًا للجدل في عام 2013 هدد بتحدي هذه الروح. فقد وسّعت سياستها للسماح للبائعين باستخدام المصنعين والاستعانة بمصادر خارجية في عملياتهم، مما أثار مخاوف في ذلك الوقت من أنها لن توفر بعد الآن مجالاً عادلاً للبائعين المستقلين الصغار الذين لا يملكون الموارد اللازمة لتوظيف موظفين.
ومع ذلك، كان هذا القرار حاسمًا بالنسبة لـ Etsy للتوسع في السوق الذي هو عليه اليوم، والذي يقدم الآن أكثر من 100 مليون قطعة للبيع وحوالي 8 ملايين بائع نشط.
قال آرون سونداراراجان، مدير مركز فوبون للتكنولوجيا والأعمال والابتكار في جامعة نيويورك ستيرن: "من وجهة نظر تجارية، نجح الأمر بالنسبة لـ Etsy لكنها كانت لحظة صعبة بالنسبة للشركة".
ما هي الخطوة التالية لأنثروبيك
تقدم دراسات الحالة هذه خارطة طريق تحذيرية لأنثروبيك.
يقول أوين دانيالز، المدير المساعد للتحليل في مركز الأمن والتكنولوجيا الناشئة في جورج تاون: "إن أكبر العواقب على المدى القريب لأنثروبيك هي على الأرجح كيفية تقدير العملاء المحتملين للشركة وثقتهم بها".
قالت أنثروبيك إن تدابير السلامة التي فرضتها بنفسها كان من المفترض دائماً أن تكون مرنة وقابلة للتغيير مع تطور الذكاء الاصطناعي. وتعهدت الشركة بأن تكون شفافة بشأن السلامة في المستقبل وقالت إنها لم يكن لديها خيار آخر: إذا توقفت عن النمو، فإن المنافسين الذين لا يقدرون السلامة بنفس القدر قد يتقدمون ويجعلون الذكاء الاصطناعي "أقل أماناً" بشكل عام.
وأشار سونداراراجان إلى أنه من غير الواضح ما الذي سيأتي به تغيير أنثروبيك، لأن المخاطر الوجودية للذكاء الاصطناعي لا تزال "مفاهيمية" إلى حد كبير.
وقال إنه سيشكك في أي خبير يصف هذه اللحظة بأنها لحظة مهمة في سلامة الذكاء الاصطناعي. لكنها قد تكون لحظة مهمة للشركة.
وقال: "إن التراجع عن وعد معين بالسلامة هنا من قبل أنثروبيك، بالنسبة لي، يتعلق أكثر بأنثروبيك وأقل حول مستقبل الذكاء الاصطناعي".
أخبار ذات صلة
الذكاء الاصطناعي واكتشاف أداة تحرير جينات جديدة: لماذا تثير Anthropic الجدل؟
كانت وظائفهم من بين أول الوظائف التي تم تغييرها بواسطة الذكاء الاصطناعي والآن يحاول البعض تجنبها
الذكاء الاصطناعي يدفع Anthropic نحو الاكتتاب العام رغم تحفّظات السوق
