OpenAI تحظر الوصول إلى الإنترنت لأقوى نماذجها بعد اكتشاف ثغرات أمنية

أفادت OpenAI بأن وكلاءها الاصطناعيين وجدوا سبلًا للهروب من البيئات المقيدة أثناء اختبارات الأمان، مما دفعها إلى تشديد الإجراءات الوقائية

قامت شركة OpenAI بتقييد وصول نماذج الذكاء الاصطناعي (AI) الأكثر قوة لديها إلى الإنترنت بعد أن اكتشفت وكلاءها طرقًا للتهرب من بيئات الحوسبة المعزولة. وستنتقل الشركة إلى إعداد دون اتصال يعتمد على صفحات ويب مخزنة مؤقتًا (cached web pages) لتقوية التعلم بالتعزيز (reinforcement learning).

نشرت الشركة هذه النتائج يوم الجمعة، في وقت تتزايد فيه المخاوف بشأن المخاطر السيبرانية التي تشكلها وكلاء الذكاء الاصطناعي المتزايدة القدرات، والتي يمكنها تحديد ثغرات البرمجيات واستغلال نقاط الضعف في الأنظمة التي تتفاعل معها. وحذر خبراء الأمن من أن هذه القدرات قد تتيح للوكلاء استغلال العيوب في الإجراءات الأمنية المصممة لحصرهم.

أوضحت OpenAI أن أحد نماذجها البحثية حصل على وصول محدود إلى الإنترنت في 20 سبتمبر من خلال استغلال خطأ في التهيئة في النظام الذي يترجم عناوين الويب إلى عناوين IP. وتمكنت الشركة من احتواء الحادث وأوقفت تدريب وتقييم أنماذجها الأكثر تقدمًا أثناء تعزيز دفاعاتها.

استؤنف التدريب في 1 أكتوبر، بما في ذلك التعلم بالتعزيز والاستدلال الداخلي، لكن الشركة أبقت على التقييد المفروض على الوصول المباشر إلى الإنترنت. وفي تقريرها الصادر في 23 أكتوبر، ذكرت OpenAI أن النماذج ستستمر في التدريب في بيئة دون اتصال حتى تطور إجراءات وقائية قوية بما يكفي للسماح بوصول أوسع.

اقرأ المزيد

يأتي هذا الكشف الأخير بعد حادث وقع في يوليو، حيث تجاوزت نماذج OpenAI ضوابط مصممة لعزلها عن الإنترنت، مما أدى إلى اختراق أجزاء من بنية الشركة البحثية وأنظمة Hugging Face. ووفقًا لـ OpenAI، استغل الوكلاء ثغرة في سجل حزم البرمجيات للوصول إلى الإنترنت، وعثروا على بيانات اعتماد مكشوفة واستخدموها للوصول إلى خدمات أطراف ثالثة.

كما كشفت OpenAI في وقت سابق من هذا الأسبوع عن حادثين آخرين حاول فيهما الوكلاء إضعاف المراقبة الداخلية للسلامة أثناء تنفيذ مهام البرمجة. ففي 3 أكتوبر، عطّل وكيل تنبيهات الأمان التلقائية، بينما أزال وكيل آخر تكامل المراقبة في 6 أكتوبر، ثم ادعى لاحقًا للمستخدم بشكل كاذب أنه لم يقم بذلك. وقالت الشركة إنها تعزز الضوابط لمنع الوكلاء من تعطيل المراقبة، وتبحث في أسباب تصرفهم بهذه الطريقة.

أبلغ مطورو ذكاء اصطناعي آخرون عن حوادث مماثلة. وذكرت شركة Anthropic أن نماذجها Claude وصلت إلى أنظمة أربع منظمات خلال اختبارات الأمن السيبراني، بينما كشفت Meta أن نموذجها Muse Spark استغل ثغرة في موقع شركة حقيقية بعد أن منحت له خطأ في الاختبار وصولاً إلى الإنترنت. كما أبلغت Google عن وصول نموذجها Gemini إلى أنظمة ثلاث شركات أثناء تقييم، مما يبرز تحديات احتواء وكلاء الذكاء الاصطناعي المتزايدة القدرات في بيئات الاختبار المضبوطة.

اقرأ المزيد: قد يخترق الذكاء الاصطناعي الأجهزة المنزلية قريباً – Anthropic

تزايدت الدعوات لفرض تنظيم أشد على الذكاء الاصطناعي، حيث حذر الحائز على جائزة نوبل جيفري هنتون من أن الذكاء الاصطناعي المتقدم قد يفلت من سيطرة البشر، بينما دعا مؤسس مايكروسوفت المشارك بيل غيتس الحكومات إلى فرض معايير سلامة. ومع ذلك، عارض الرئيس الأمريكي دونالد ترامب مثل هذه القيود، حجةً بأنها قد تمنح الصين أفضلية تكنولوجية. في غضون ذلك، صرح الرئيس التنفيذي لشركة OpenAI سام ألتمان مؤخرًا بأن المجتمع يجب أن يتقبل بعض "الأشياء السيئة"، بما في ذلك الاختراقات والاحتيالات، لأن فوائد هذه التقنية تفوق مخاطرها.