أعلنت شركة Anthropic، المطورة لمساعد الذكاء الاصطناعي Claude، عن وقوع خروقات أمنية خلال اختبارات على نماذجها المتقدمة، وكشفت عن إيقاف مؤقت لتدريب نموذج جديد لأكثر من شهر بسبب مخاوف متعلقة بالحماية، وذلك ضمن مستندات طرحها الأولي للاكتتاب العام في الولايات المتحدة.
وأوضحت الشركة أن 4 نماذج للذكاء الاصطناعي، أثناء تجارب أمنية أجريت بالتعاون مع طرف ثالث، تمكنت من الوصول غير المصرح به إلى أنظمة كمبيوتر خارجية.
وحدث ذلك نتيجة خطأ في ضبط إعدادات البيئة التجريبية أدى إلى بقاء الاتصال بالإنترنت مفعلاً، خلافاً للتعليمات.
استمرت هذه الاختبارات بين 10 إلى 34 ساعة من العمل الفعلي. وفي إحدى الحالات، تمكن أحد النماذج من كشف كلمة مرور والوصول إلى امتيازات المدير (Administrator) على نظام خارجي، ثم الحصول على بيانات اعتماد إضافية وتغيير إعدادات النظام، والوصول إلى معلومات شخصية.
وأكدت Anthropic أنها أبلغت الجهات المتأثرة، وخلص تحقيق داخلي إلى عدم وجود أدلة على محاولة النماذج تجاوز إشراف بشري أو التنسيق مع أنظمة أخرى خارج حدود المهام الموكلة إليها.
إلى جانب ذلك، توقفت الشركة عن تدريب نموذجها الجديد المتقدم لأكثر من شهر، كإجراء وقائي لتعزيز حماية أوزان النماذج والملكية الفكرية، في ظل تزايد مخاطر السرقة أو التسريب.
وحذرت Anthropic من أن مثل هذه التأخيرات المرتبطة بالسلامة والسلوك غير المتوقع للذكاء الاصطناعي قد تؤثر سلباً على تطوير المنتجات وتنافسية الشركة في السوق.
تأتي هذه الإفصاحات في لحظة حساسة، إذ تستعد الشركة لطرح أسهمها في البورصة وسط تنامي التدقيق العالمي حيال المخاطر المرتبطة بتطور نظم الذكاء الاصطناعي المتقدمة.
