فأمام التحول التقني الخاطف الذي يشهده العالم حالياً، تتعالى الأصوات الداعية لتعزيز معايير الأمان الرقمي، عبر إخضاع أنظمة الذكاء الاصطناعي لاختبارات سلامة ودراسات مخاطر تقوم بها جهات خارجية مستقلة قبل السماح بطرحها للاستخدام العام، وذلك بدلاً من ترك هذا القرار بيد الشركة صاحبة التقنية.
وضمن هذا السياق، يبرز مقترح "الأب الروحي للذكاء الاصطناعي"، جيفري هينتون، الداعي لإنشاء نظام اعتماد للذكاء الاصطناعي على غرار النظام المتبع للأدوية لدى "إدارة الغذاء والدواء الأميركية" (FDA)،
والذي يلزم الشركات بإثبات سلامة أدويتها عبر اختبارات دقيقة قبل طرحها للجمهور.
ويرى هينتون أنه يجب على شركات الذكاء الاصطناعي إثبات سلامة برامجها الذكية أمام جهة تنظيمية فيدرالية، حيث تتخذ حالياً شركات التكنولوجيا قراراتها بشأن جاهزية منتجاتها بشكل مستقل.
وبحسب تقرير أعده موقع "Business Insider"، واطّلع عليه موقع "اقتصاد سكاي نيوز عربية"، يرغب جيفري هينتون المعروف بلقب "الأب الروحي للذكاء الاصطناعي" بفضل أعماله الرائدة في هذا المجال، في إخضاع تقنيات الذكاء الاصطناعي لبروتوكولات مشابهة لآلية إجازة الأدوية، حيث أوضح قائلاً إنه لا يمكن طرح دواء جديد في الأسواق دون إقناع إدارة الغذاء والدواء "FDA" بسلامته، وهو الأمر الذي يتطلب جهداً كبيراً وتكلفة تصل إلى نحو مليار دولار، مشيراً إلى أن مثل هذه الإجراءات تُمثّل الحد الأدنى مما ينبغي تطبيقه على تقنيات الذكاء الاصطناعي.
وتأتي دعوة هينتون لفرض رقابة أشد في وقت يثير فيه خبراء ومطلعون في مجال الذكاء الاصطناعي مخاوف جدية بشأن التقنية التي يساهمون في تطويرها، حيث حذّر باحثون في شركتي "OpenAI" و"Anthropic" مؤخراً من أن الشركات تتجه بسرعة كبيرة نحو تطوير أنظمة أكثر قوة، دون معرفة كيفية إبقائها تحت السيطرة البشرية، وقد أشار البعض إلى أن العواقب قد تكون كارثية.
ومما زاد من حدة المخاوف، القرار الأخير الذي اتخذته "OpenAI" بتأجيل إطلاق نموذج جديد للذكاء الاصطناعي بسبب مشكلات تتعلق بالسلامة، إذ أظهرت الاختبارات أن النموذج كان يميل إلى الخداع وارتكاب تجاوزات تتعلق بنطاق عمله. وتمحورت المشكلة حول مدى إمكانية وثوق المستخدمين في التزام النموذج بالتعليمات وتجنبه اتخاذ إجراءات لم يصرحوا بها.
ويقول الكاتب والمحلل المختص بالذكاء الاصطناعي ألان القارح، في حديث لموقع "اقتصاد سكاي نيوز عربية"، إن فكرة تأسيس "FDA للذكاء الاصطناعي"، تتجاهل الطبيعة الجيو- اقتصادية للسباق التكنولوجي الحالي، فتطبيق بروتوكولات ترخيص بطيئة ومكلفة تتطلب مليار دولار وسنوات من الاختبارات المسبقة، سيوجه ضربة قاضية لمنظومة الابتكار في الذكاء الاصطناعي، مشيراً إلى أن الفارق الجوهري بين الأدوية والـ AI يكمن في السرعة والتطور، فالدواء يستغرق 10 سنوات ليتحول من المختبر إلى المريض، في حين تنتهي الصلاحية التقنية لنموذج الذكاء الاصطناعي خلال 6 أشهر فقط مع ظهور جيل جديد، وبالتالي فإن إجبار الشركات على الانتظار لسنوات للحصول على إجازة فيدرالية يعني أن التكنولوجيا ستصل للجمهور وهي متقادمة وغير قادرة على منافسة النماذج المطورة في دول لا تفرض القيود نفسها.
ويرى القارح أن التبعات الاقتصادية لفرض نظام الـ FDA على الذكاء الاصطناعي، ستكون كارثية على الشركات الناشئة، التي تشكل العصب الحقيقي للابتكار، حيث أن الكيانات الكبرى أي شركات الذكاء الاصطناعي الكبرى، ستكون الوحيدة القادرة على تحمل تكاليف الامتثال، وتوظيف الفرق القانونية والتقنية المطلوبة للامتثال للمتطلبات الفيدرالية والتي قد تصل إلى مليار دولار، مشيراً إلى أن ذلك قد يؤدي إلى تركيز السوق في أيدي عدد محدود من الشركات الغنية، بما يقلص المنافسة ويحد من ظهور حلول وخدمات بأسعار رخيصة على أيدي الشركات الناشئة.
ويعتبر القارح أن معالجة مشكلة المخاطر التي قد يتسبب بها الذكاء الاصطناعي، لا تكون بإنشاء بيروقراطية فيدرالية بطيئة تشبه هيئات القرن الماضي، بل بإنشاء أطر حوكمة مرنة تعتمد على "التأمين ضد المخاطر الرقمية"، وتحميل الشركات المسؤولية المباشرة عن الأضرار، معتبراً أن البديل العملي لنظام الـ FDA ليس الفوضى، بل إجبار الشركات على الاكتتاب لدى شركات تأمين مستقلة، تقيم أمان النماذج مالياً وتقنياً، مع فرض عقوبات صارمة عند المخالفة، فالحظر المسبق للابتكار لم ينجح يوماً، بل إن ربط الابتكار بمسؤولية مالية واضحة عن الأضرار المحتملة، قد يشكّل حافزاً أقوى للشركات لتطوير أنظمة أكثر أماناً، من دون إبطاء وتيرة التطور التكنولوجي.
بدوره يقول مطور التطبيقات التكنولوجية إلياس الخوري، في حديث لموقع "اقتصاد سكاي نيوز عربية"، إن فكرة إخضاع أنظمة الذكاء الاصطناعي لموافقة الجهات التنظيمية، قبل إتاحتها للاستخدام العام، تبدو جذابة من الناحية النظرية ولكنها صعبة التطبيق عملياً، خصوصاً إذا استُنسخت آلية اعتماد الأدوية من دون مراعاة الاختلاف الجوهري بين المجالين، فالأدوية هي مركبات ثابتة التكوين لا تتغير بعد طرحها في الصيدليات، وتخضع لمسار اختبارات يمتد لسنوات، بينما تتطور أنظمة الذكاء الاصطناعي التي تعمل عبر البرمجيات بصورة متواصلة من خلال تحديثات متكررة، وهنا يبرز سؤال أساسي هو "ما الذي ستوافق عليه الجهة التنظيمية تحديداً؟" فهل ستوافق على نموذج ذكاء اصطناعي عند إطلاقه للمرة الأولى أم على كل تحديث رئيسي، أم على كل استخدام جديد له؟.
ويشرح الخوري أن تطبيق نظام رقابي على الذكاء الاصطناعي يطرح تحدياً يتعلق بكيفية توحيد المعايير بين الدول، إذ إن اعتماد كل دولة قواعد خاصة بها لاختبار النماذج قبل طرحها في الأسواق، سيجبر الشركات على التعامل مع متطلبات مختلفة، ما يزيد تكاليف التطوير ويبطئ إطلاق المنتجات، مشدداً على أن نجاح هذا النظام يتطلب تنسيقاً دولياً يضمن الحد الأدنى من المعايير المشتركة، وهو ما قد يصعب تحقيقه عملياً في ظل اختلاف أولويات الدول ومصالحها الاقتصادية والتكنولوجية، وتباين نظرتها إلى المخاطر التي ينبغي إخضاع الذكاء الاصطناعي للرقابة بسببها.
ويرى الخوري أن التحدي الحقيقي لا يكمن في تحديد ما إذا كان ينبغي السماح بإطلاق نماذج الذكاء الاصطناعي، بل في تحديد المسؤولية عن الأضرار التي قد تتسبب بها بعد دخولها حيز الاستخدام، فبدلاً من جعل الموافقة المسبقة شرطاً عاماً أمام الابتكار، يمكن بناء نظام رقابي يضمن محاسبة الشركات عندما تفشل في احتواء المخاطر التي كان بإمكانها توقعها أو الحد منها، بما يجعل سلامة المستخدمين مسؤولية فعلية تتحملها الشركات، لا مجرد شرط تستوفيه للحصول على ترخيص.
