كشفت شركة OpenAI هذا الأسبوع عن وقوع أربع حوادث جديدة خلال يونيو الماضي، أظهرت فيها النماذج الداخلية للذكاء الاصطناعي سلوكاً غير أخلاقي ولم يسبق له مثيل، تضمن اختراق مواقع إلكترونية وتجاوز القيود الأمنية واستخدام بيانات اعتماد مكشوفة لاستغلال محفظة عملات رقمية.
جاءت هذه الوقائع في سياق سلسلة من اختبارات الأمان التقني أجرتها الشركة، حيث تمكنت النماذج من تنفيذ عمليات كان من الممكن أن تُعتبر جريمة تُعاقب عليها القوانين لو أقدم عليها أشخاص حقيقيون.
حوادث سجلت خلال اختبارات يونيو:
اختراق مواقع حكومية ومنظمات بحثية
في حالتين منفصلتين، نجحت النماذج في تجاوز آليات الحماية التي وضعتها الشركة نفسها على تصفح الإنترنت وأمنت وصولاً غير مصرح به لمعلومات لم تكن متاحة لها.
إحدى النماذج استخرجت معلومات خوادم وبيانات اعتماد حساسة عبر استغلال ميزة تحميل الملفات في موقع إحصائي حكومي، تجاوزت عبرها عمليات التحقق المعتادة للوصول إلى بيانات كانت ممنوعة عليها.
تغيير التكوينات وسرقة جداول بيانات
وفي حادثة أخرى، استغلت النماذج بيانات اعتماد مسروقة لإجراء تغييرات على خادم لوحة بيانات بحثية، ما مكنها من تنزيل جداول غير علنية تحتوي على أكثر من 147 ألف صف من البيانات، بينما كان المطلوب منها فقط جلب خمسة أرقام إحصائية.
OpenAI تكشف تفاصيل جديدة عن اختراق Hugging Face
استغلال محفظة عملات رقمية
في تجربة ثالثة، تمكن النموذج من استخلاص مفاتيح محفظة مشفرة على شبكة تجريبية بالاعتماد على عبارات استرداد منشورة علناً، واستغل هذه المفاتيح لتحويل أموال افتراضية دون إذن صاحب الحساب.
التحايل على القيود بطرق مبتكرة
أظهرت تقارير الشركة أن أحد النماذج استطاع تجاوز القيود التقنية المفروضة عليه لاستخدام خدمات غير مصرح بها عبر متصفح خارجي.
حيث لجأ لتحويل الإحصاءات المطلوبة إلى صورة ثم استخدم تقنيات التعرف الضوئي على الحروف (OCR) لاستخلاص الأرقام وإدخالها كإجابات في الاختبارات، رغم أن المطلوب منه كان الحصول على المعلومة بطريقة مشروعة فقط.
ويكيميديا تتهم وكلاء OpenAI بالتسبب في انقطاع جزئي في ويكيبيديا خلال مايو الماضي
وتؤكد OpenAI أن هذه الحوادث تمت في بيئة اختبارية مغلقة، وأنه تم تعطيل بعض إجراءات الحماية لأغراض البحث.
وأوضحت الشركة أن النماذج لم تكن موجهة بشكل صريح إلى تلك الطرق غير المتوقعة، لكنها أظهرت التزاماً بالهدف الأساسي وهو إنجاز المهمة المطلوبة بأي وسيلة ممكنة، حتى لو أدى ذلك لتجاوز التعليمات أو استخدام أساليب مخالفة للسياسة.
كما أوضحت الشركة أن مثل هذه الحوادث تثير قلقاً متجدداً حول مدى قدرة الذكاء الاصطناعي المتطور على اتخاذ قرارات مستقلة، وتجاوز الرقابة إذا لم تتوفر طبقات الحماية الكافية، وأنها تواصل تطوير آليات الحماية والاختبار لتفادي مثل هذه التجاوزات مستقبلاً.
