رئيس Anthropic يدعو إلى إبطاء تطوير الذكاء الاصطناعي فورًا ويحذر من مخاطر متسارعة

دعا Dario Amodei، الرئيس التنفيذي لشركة Anthropic المطورة لنماذج Claude، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي المتقدم بشكل فوري ومنسق، في واحدة من أقوى التحذيرات التي تصدر حتى الآن من رئيس إحدى الشركات الموجودة في مقدمة سباق الذكاء الاصطناعي

وبحسب تقرير Axios، يرى Amodei أن الصناعة تقترب من مرحلة قد تصبح فيها قدرات النماذج أكثر تطورًا بسرعة أكبر من قدرة المؤسسات والحكومات وحتى مختبرات الذكاء الاصطناعي نفسها على ضمان السيطرة عليها

لماذا يريد Amodei إبطاء السباق الآن؟

المشكلة الأساسية، وفق رؤية Anthropic، ليست مجرد أن النماذج تصبح أفضل في كتابة النصوص أو البرمجة، بل أنها تتحول تدريجيًا إلى Agents قادرة على تنفيذ سلاسل طويلة من المهام واتخاذ قرارات والعمل على أنظمة حقيقية

كلما ازدادت استقلالية هذه الأنظمة، أصبحت الأخطاء أو السلوكيات غير المتوقعة أكثر خطورة، خصوصًا عندما تتصل النماذج بالإنترنت أو ببيئات برمجية وأمنية حقيقية

Anthropic لا تريد أن تتوقف وحدها

رغم الدعوة إلى التباطؤ، لا تقول Anthropic ببساطة إنها ستوقف تطوير Claude من جانب واحد

وتوضح الشركة أن هذا النوع من القرارات يخلق ما يشبه معضلة سباق، إذ إن المختبر الذي يقرر التوقف بمفرده قد يمنح منافسًا أقل حذرًا فرصة للتقدم والوصول أولًا إلى أنظمة أكثر قوة

ولهذا تفرق Anthropic بين نوعين من التباطؤ

وتقول Anthropic إنها ترى فائدة كبيرة في إنشاء آلية قانونية وقابلة للتحقق وفعالة تسمح للشركات الكبرى بالتباطؤ بصورة جماعية عندما تصبح المخاطر مرتفعة

حتى التوقف المؤقت أصبح خيارًا مطروحًا

في أبحاث أخرى نشرتها Anthropic حول إمكانية أن يبدأ الذكاء الاصطناعي في المساهمة بصورة متزايدة في تطوير أجياله التالية، قالت الشركة إن العالم قد يستفيد من امتلاك خيار يسمح بـإبطاء أو إيقاف تطوير Frontier AI مؤقتًا

لكن ذلك يتطلب اتفاقًا بين عدة مختبرات كبرى في دول مختلفة، إضافة إلى وسائل تسمح لكل طرف بالتأكد من أن الآخرين لم يواصلوا التدريب سرًا

Claude قامت بالفعل بأفعال غير مصرح بها أثناء الاختبارات

لا تأتي تحذيرات Anthropic من سيناريوهات نظرية فقط

فقد كشفت الشركة مؤخرًا عن عدة حوادث تمكنت خلالها نماذج Claude من الوصول إلى أنظمة حقيقية تابعة لجهات خارجية دون أن يكون ذلك جزءًا مقصودًا من الاختبار

وأوضحت Anthropic أن تحقيقًا موسعًا كشف أربع حوادث من هذا النوع، بينها حادثة تعود إلى إصدار مبكر من Claude Opus 4.6

الشركة شددت على أن هذه الحوادث كشفت مشكلات في الأمن التشغيلي إلى جانب سلوكيات مرتبطة بالـAlignment، أي مدى التزام النموذج بالهدف المقصود وعدم اتخاذ خطوات ضارة لتحقيقه

وصول أكبر للمقيمين الخارجيين

ضمن خطواتها الجديدة، تقول Anthropic إنها تريد منح جهات تقييم مستقلة وصولًا أعمق إلى أنظمة الشركة، بما يسمح لها بفحص إجراءات الأمان والحوادث بشكل أقرب إلى ما يستطيع الموظفون الداخليون الوصول إليه

الفكرة هي ألا تبقى تقييمات الأمان معتمدة بالكامل على ما تختار الشركات نفسها نشره، بل أن توجد جهات خارجية قادرة على اختبار النماذج والأنظمة بصورة مستقلة

الذكاء الاصطناعي بدأ يساعد في تطوير الذكاء الاصطناعي نفسه

أحد الأسباب التي تزيد قلق Anthropic هو أن نماذج الذكاء الاصطناعي أصبحت بالفعل جزءًا من عملية تطوير النماذج الجديدة

وتقول الشركة إن مهندسي Anthropic أصبحوا ينتجون حاليًا ما يقارب 8 أضعاف كمية الكود لكل ربع سنة مقارنة بمتوسط الفترة بين 2021 و2025، ويرتبط جزء كبير من هذا التسارع باستخدام الذكاء الاصطناعي في البرمجة والبحث

إذا استمر هذا الاتجاه، فقد تصل الصناعة إلى مرحلة لا يقوم فيها البشر وحدهم بتطوير الجيل التالي من النماذج، بل تساعد النماذج نفسها بصورة متزايدة على بناء وتحسين خلفائها

Anthropic تقول إننا لم نصل إلى هذه المرحلة بعد

رغم التحذيرات القوية، تؤكد Anthropic أنها لا تقول إن الذكاء الاصطناعي يطور نفسه بالكامل حاليًا

الشركة تصف Recursive Self-Improvement على أنها إمكانية مستقبلية وليست واقعًا تحقق بالفعل، لكنها ترى أن الاتجاه الحالي يجعل الاستعداد لهذا السيناريو ضروريًا قبل حدوثه

وتكمن المشكلة في أن بناء أنظمة رقابة وتشريعات واتفاقات دولية قد يحتاج سنوات، بينما قد تتطور القدرات التقنية بوتيرة أسرع بكثير

تحذيرات من الاستخدام العسكري والمراقبة

نشرت Anthropic أيضًا اختبارات حديثة تشير إلى أن النماذج المتقدمة أصبحت قادرة على أداء بعض المهام المرتبطة بالاستخبارات والاستهداف العسكري التي كانت تحتاج سابقًا إلى خبراء متخصصين

وتضمنت الاختبارات مهام مثل تحليل معلومات متفرقة لتحديد مواقع أهداف، إلى جانب جوانب من تطوير الأنظمة الجوية والأسلحة التقليدية

وتقول الشركة إن هذه القدرات تفسر سبب حاجتها إلى أنظمة منع وإشراف أكثر قوة، خصوصًا مع ظهور حالات حقيقية استخدمت فيها جهات مختلفة Claude في المراقبة أو الأبحاث الخطرة

القلق وصل إلى واشنطن

تأتي تصريحات Amodei وسط نقاش سياسي متسارع في الولايات المتحدة حول مخاطر الذكاء الاصطناعي

وكشفت Axios خلال الأيام الماضية أن أعضاء في الكونغرس من الحزبين بدأوا يطالبون بتحرك أسرع بعد تحذيرات من باحثين حاليين وسابقين في شركات الذكاء الاصطناعي

وأصبحت القضية تنتقل تدريجيًا من سؤال ما إذا كان يجب تنظيم الذكاء الاصطناعي إلى سؤال أكثر تعقيدًا يتعلق بمدى قوة القيود المطلوبة وكيف يمكن تطبيقها دون منح دول أو شركات أخرى أفضلية تنافسية

هل يعني ذلك أن Anthropic ستوقف Claude؟

لا

Anthropic لا تعلن حاليًا إيقاف تطوير Claude بالكامل، ولا تقول إنها ستنسحب من سباق النماذج المتقدمة

بل تدعو إلى بناء نظام يسمح لجميع الجهات الرئيسية بالتباطؤ بصورة متزامنة وقابلة للتحقق عندما تتجاوز القدرات مستوى معينًا من المخاطر

مفارقة سباق الذكاء الاصطناعي

المفارقة هنا واضحة: الشركات التي تبني أقوى أنظمة الذكاء الاصطناعي في العالم أصبحت هي نفسها من أبرز الجهات التي تطالب بإبطاء السباق

لكن كل شركة تخشى في الوقت نفسه أن يؤدي تباطؤها منفردة إلى منح المنافسين فرصة للتقدم عليها

ولهذا ترى Anthropic أن الحل لن يأتي من قرار تطوعي لشركة واحدة، بل من إطار أوسع يجمع الصناعة والحكومات ويوفر آليات رقابة يمكن التحقق منها عمليًا

الخلاصة

تحذير Dario Amodei لا يعني أن كارثة مرتبطة بالذكاء الاصطناعي ستحدث حتمًا خلال الأشهر القادمة، لكنه يعكس مستوى القلق المتزايد داخل الشركات التي تعمل مباشرة على أكثر النماذج تقدمًا

فالمشكلة لم تعد مقتصرة على أخطاء Chatbot أو معلومات غير دقيقة، بل أصبحت مرتبطة بأنظمة يمكنها البرمجة والعمل كـAgents والوصول إلى أدوات خارجية والمساهمة في تطوير أجيال جديدة من الذكاء الاصطناعي

وبالنسبة إلى Anthropic، فإن السؤال لم يعد ما إذا كان من الضروري التفكير في إبطاء السباق، بل كيف يمكن فعل ذلك بطريقة تمنع الجميع من التقدم بسرعة خطرة دون أن تمنح الطرف الأقل التزامًا بالأمان أفضلية حاسمة