عضو مجلس إدارة OpenAI يحذر من خطر كارثي يهدد البشرية خلال ثلاث سنوات

حذر بول كريستيانو من أن أنظمة الذكاء الاصطناعي المتزايدة القوة قد تتسبب في وفيات جماعية إذا نجحت في السيطرة على العمليات

أثار بول كريستيانو، عضو مجلس إدارة شركة OpenAI، مخاوف جدية بشأن إمكانية خروج الذكاء الاصطناعي عن السيطرة البشرية في غضون ثلاث سنوات، محذراً من عواقب قد تشمل مقتل أعداد كبيرة من الناس.

وخلال مشاركته في محاضرات هنتون في تورنتو يوم الثلاثاء، نبّه كريستيانو إلى أن أنظمة الذكاء الاصطناعي "الماثلة للبشر" (superhuman) قد تتجاوز قدرة البشر على فهم سلوكها أو التنبؤ به أو التحكم فيه.

وقال: "إذا كان نظام الذكاء الاصطناعي يقوم بأفعال لا نريدها، فيمكنه إخفاء حقيقة قيامه بهذه الأفعال، ومن الطبيعي أن يحاول خلق حالة من اللبس وتجنب تحديد المسؤولية". وأضاف أن البشر قد يواجهون صعوبة في استشراف العواقب المترتبة على اتباع النصائح التي يولدها الذكاء الاصطناعي.

وفي خطاب منفصل ألقاه يوم الاثنين، حذر كريستيانو من أن الذكاء الاصطناعي قد يستولي على السلطة من البشرية خلال ثلاث سنوات، مما قد يؤدي إلى مقتل أعداد كبيرة من الناس إما أثناء عملية الاستيلاء أو في أعقابها، في حال فقدان القدرة على الحفاظ على بيئة قابلة للسكن.

وأضاف قائلاً: "أعتقد أن السبب الأكثر احتمالاً لموت معظم الأشخاص في هذه القاعة هو حادث متعلق بالذكاء الاصطناعي".

اقرأ المزيد

ونوّه كريستيانو، الذي انضم إلى مجلس إدارة OpenAI ولجنة السلامة والأمان في سبتمبر، إلى حادثة أدت فيها وكلاء الذكاء الاصطناعي إلى تجاوز قيود الأمان خلال اختبارات الشركة، مما مكنهم من الوصول غير المصرح به إلى بنية البحث التحتية لدى OpenAI ومنصة Hugging Face، وهي منصة رئيسية لتطوير الذكاء الاصطناعي.

ورغم أن OpenAI أطلقت إطاراً لمعالجة تهديدات الأمن السيبراني ومخاطر فقدان السيطرة على الأنظمة المتقدمة، إلا أن كريستيانو حذر من أن الإجراءات الوقائية الحالية لا تزال غير كافية.

وجاءت هذه التحذيرات في وقت وقّعت فيه حكومات وشركات رائدة في مجال الذكاء الاصطناعي، من بينها OpenAI ومايكروسوفت وAnthropic، على إعلان طوعي للسلامة في باريس يوم الاثنين. يدعو هذا الاتفاق إلى تعزيز الرقبة وآليات الإيقاف الطارئ، لكنه لا يفرض مواعيد نهائية ملزمة أو عقوبات، ولا يمنح الحكومات صلاحيات إضافية لإيقاف أنظمة الذكاء الاصطناعي الخطرة.

كما دعت منظمة CeSIA للسلامة في مجال الذكاء الاصطناعي، التي وقّعت على الإعلان أيضاً، إلى تمكين السلطات من تعليق تطوير ونشر الذكاء الاصطناعي عندما تصبح المخاطر غير مقبولة.

اقرأ المزيد

من جانب آخر، حذر ماكسيم فورنس، رئيس حملة PauseAI التي تسعى لتوقف تطوير الذكاء الاصطناعي المتقدم حتى يتم ضمان سلامته، من أن هذه التقنية قد تعطل الأنظمة المصرفية وشبكات الاتصالات والبنية التحتية الحيوية الأخرى من خلال هجمات سيبرانية مدمرة.

وفي حديثه لوكالة الأناضول يوم الاثنين، قدر فورنس احتمالية حدوث كارثة سيبرانية كبرى مرتبطة بالذكاء الاصطناعي بنسبة 50% خلال العام المقبل، ما لم تتخذ إجراءات عاجلة.

وحذر قائلاً: "هذا تهديد كارثي عالمي، وقد يعيدنا إلى العصور الوسطى بسرعة كبيرة إذا بدأ يحدث".