"يخدع البشر ويتحكم في الروبوتات".. أنثروبيك تحذر من مخاطر نماذجها

حذّرت شركة Anthropic (أنثروبيك) من مخاطر قد تصاحب تطور نماذج الذكاء الاصطناعي، تشمل تنفيذ إجراءات ضارة دون طلب بشري، وتجاوز الرقابة، والمساعدة في هجمات إلكترونية وتطوير أسلحة، وصولاً إلى التسبب في إصابات وأضرار مادية عند جعل النماذج تتحكم بالأجهزة والروبوتات.

وأوضحت الشركة المطوّرة لـClaude، في نشرة الاكتتاب الأولية التي قدمتها إلى هيئة الأوراق المالية والبورصات الأميركية، أن بعض المخاطر ظهرت خلال الاختبارات والاستخدام، بينما يرتبط بعضها باحتمالات مستقبلية مع زيادة استقلالية النماذج وصلاحياتها.

تطوير أسرع من إجراءات الحماية

وتعتبر "أنثروبيك" استخدام الذكاء الاصطناعي لتطوير أجياله التالية مصدر قوة وخطر معاً، فالنماذج تساعد الباحثين في تحسين كفاءة التدريب والتشغيل، بما يسمح ببناء نماذج أقوى بالموارد نفسها، ثم استخدامها لاكتشاف تحسينات إضافية.

لكن استمرار هذه الدورة قد يجعل تطور القدرات أسرع من قدرة البشر على فهمها وتقييمها وتأمينها، وهو ما تربطه الشركة باحتمال Recursive Self-Improvement (التحسين الذاتي المتكرر)، حين تصبح الأنظمة طرفاً رئيسياً في تحسين قدراتها أو تطوير الأجيال التالية منها.

ولا تقول الوثيقة إن Claude يطوّر نفسه بالكامل من دون إشراف، لكنها توضح استخدامه في البحث والتطوير، وتحذّر من أن الاعتماد عليه لكتابة الشفرة البرمجية وإجراء الأبحاث والتقييمات الأمنية قد يقلل إحاطة البشر بتفاصيل العمليات، ويسمح لسلوك غير مرغوب فيه بإدخال ثغرات أو التأثير في تدريب نماذج لاحقة، وانتقال المشكلات بين الأجيال المستقبلية.

إجراءات تتجاوز قصد المستخدم

تحذّر الشركة كذلك من أن النماذج قد تتخذ إجراءات ضارة من دون أن يطلبها مستخدم أو مهاجم، فالإجابة الخاطئة يمكن مراجعتها، لكن تنفيذ أوامر أو تعديل قواعد بيانات أو إرسال رسائل أو إجراء معاملات مالية قد يخلّف ضرراً يصعب التراجع عنه، مثل حذف بيانات أو اعتماد تغييرات برمجية أو إتمام عمليات شراء لم يطلبها المستخدم.

وقد تعوق كثرة التنبيهات أو نقص المعلومات اللازمة لفهم القرارات عملية المراقبة، وقد لا تُكتشف المشكلة إلا بعد وقوع الضرر.

كذلك قد ينفذ النظام الكلمات حرفياً دون أن يأخذ في الاعتبار قصد المستخدم؛ فطلب تنظيف ملفات، مثلاً، قد يُفهم بطريقة تؤدي إلى حذف مواد أراد المستخدم الاحتفاظ بها.

التحايل على الاختبارات

وتقر أنثروبيك بأن بعض النماذج تتصرف بصورة مختلفة عندما تستنتج أنها تخضع للاختبار، ما يحد من دقة التقييمات وقدرتها على كشف المخاطر قبل الإطلاق.

وقد تظهر أثناء التدريب قدرات غير متوقعة لا تُكتشف إلا بعد الطرح، فتستدعي سحب النموذج أو إعادة تدريبه أو تعديل حمايته.

وتحذّر الشركة من تطور القدرة على تجاوز الرقابة وإخفاء السلوك، مشيرة إلى حوادث داخل الصناعة، شملت نماذجها، تضمنت محاولات للتدخل في آليات التقييم ومراقبة الالتزام بالتعليمات.

ولا يضمن استخدام نموذج لمراقبة آخر حل المشكلة، لأن المراقب قد يظهر بدوره سلوكاً غير مرغوب فيه، بينما لا يزال فهم أسباب هذه التصرفات والقدرة على توقعها وتفسيرها محدوداً.

وكشفت الشركة أنها علّقت بعض تقييمات الأمن السيبراني وبيئات التدريب بالتعلم المعزز المرتفعة المخاطر، بعد حوادث خلال 2026 وصلت فيها نماذجها دون تصريح إلى أنظمة حقيقية أثناء اختبارات سبقت الإطلاق.

وقد تؤجل طرح نماذج أو تقيّده أو تتراجع عنه لإجراء اختبارات إضافية، إذ قد يولّد الاختبار نفسه مخاطر عند منح النماذج صلاحيات واسعة.

الاختراقات والأسلحة

تتيح مهارات اكتشاف الثغرات وإصلاحها حماية الأنظمة ومهاجمتها في الوقت نفسه، فقد أشارت أنثروبيك إلى ارتفاع أداء Claude في معيار ExploitBench لقياس القدرة على استغلال الثغرات من 40% مع Opus 4.8 إلى 78% مع Mythos 5، ثم 91% مع Opus 5.5، خلال نحو أربعة أشهر.

وطوّرت الشركة خدمة Claude Security لفحص الشفرة باستمرار وتحديد الثغرات وتصنيفها واقتراح إصلاحات، وOSS Scanner للمشروعات المفتوحة المصدر، وترى أن المؤسسات ستحتاج نماذج متقدمة للدفاع، مع اتساع استخدام الوكلاء وزيادة منافذ الهجوم.

ورصدت الشركة، خلال سبتمبر 2025، نشاطاً نسبته إلى مجموعة قرصنة مدعومة من الدولة الصينية، استخدمت Claude Code لاستهداف نحو 30 جهة عالمياً، بينها شركات تكنولوجية ومؤسسات مالية وشركات للصناعات الكيميائية وجهات حكومية، ونجح عدد محدود من محاولات الاختراق.

وتعتقد الشركة أن ذلك أول هجوم إلكتروني واسع النطاق موثق نُفذ من دون تدخل بشري كبير، ويُظهر إمكانية التحايل على القيود.

وتقر بأن نماذج متقدمة أظهرت قدرات قد تساعد جهات خبيثة في تطوير أسلحة كيميائية وبيولوجية وغيرها، وتستخدم أنظمة تصنيف ومراقبة آلية لمنع الطلبات الخطرة، وتقيّد الوصول؛ فتتيح نموذج Fable من فئة Mythos للاستخدام العام مع قيود إضافية على الموضوعات الحساسة، وتتيح إعدادات Mythos لجهات وأفراد خضعوا للتحقق، خصوصاً في مجالي الأمن السيبراني وعلوم الحياة.

لكن الحماية قد تبقى ناقصة أو تضعف أمام التحايل، كما شهدت أنظمة المراقبة سابقاً أخطاء في الإعداد وتعطيلاً غير مقصود، وهي مشكلات قد تتكرر من دون اكتشاف فوري.

من الشاشة إلى المختبر

كما طوّرت أنثروبيك Claude Science لربط نماذجها الذكية بقواعد البيانات العلمية والنماذج البحثية الخارجية والبنية الحاسوبية للمؤسسات، وأتاحت تجريبياً وبنطاق محدود بروتوكولاً مفتوحاً يسمح للنماذج الذكية بمراقبة المعدات المادية والتحكم فيها، مع تطوير قدراتها للتعامل مع الروبوتات، بما يشمل المجاهر وأجهزة التعامل مع السوائل والأذرع الروبوتية التجارية.

وقد يؤدي ربط النماذج بالأجهزة، في حال وقوع أخطاء أو تلاعب أو إساءة استخدام، إلى إصابات وتلف معدات ومواد بحثية أو إطلاق مواد خطرة، مع عواقب فورية قد يصعب أو يستحيل التراجع عنها.

وقد لا تكفي الموافقة البشرية وتقييد الصلاحيات وأنظمة الأمان المستقلة دائماً، فيما تسمح أدوات الربط المفتوحة المصدر باستخدام معدات وإعدادات لم تختبرها الشركة، أو بإزالة وسائل الحماية.

وتأتي هذه الإفصاحات ضمن نشرة الاكتتاب العام الأولية لأنثروبيك في البورصة الأميركية، وسط توقعات بإجراء الطرح خلال الأشهر المقبلة، وجمع ما يصل إلى 100 مليار دولار، وفق تقديرات صحافية، ما قد يجعله أكبر طرح عام أولي في التاريخ من حيث حصيلته، فيما لم يُحدد تقييم الشركة النهائي بعد.