حذّرت شركة مايكروسوفت من أن وكلاء الذكاء الاصطناعي العاملين داخل المؤسسات قد يشكّلون خطرًا أمنيًا متزايدًا، مشددةً على أن النماذج المتقدمة لا يمكن الاعتماد عليها بشكل كامل حتى لو طوّرتها جهات متخصصة. وفي هذا السياق، كشفت عن أدوات جديدة تتيح تتبع سلوك هذه الوكلاء وتحديد صلاحياتهم بما يقلّل من مخاطر قراراتهم.
فقد أطلقت مايكروسوفت ميزة “Guardian Agents” التي تهدف إلى مراقبة وكلاء الذكاء الاصطناعي المستخدمين في المؤسسات، وتأتي هذه الميزة ضمن مشروع “Project Perception” الذي أعلنت عنه الشركة في يونيو الماضي بهدف تقوية قدرات الأمن السيبراني المعتمدة على الذكاء الاصطناعي.
وعند إطلاقه، استند مشروع “Project Perception” إلى ثلاث فئات من الوكلاء: فريق أحمر يتقمص دور المهاجمين ويجري اختبارات على الأنظمة عبر هجمات، وفريق أزرق يراقب الهجمات ويحلّل الثغرات الأمنية، وفريق أخضر يتولى إصلاح هذه الثغرات.
وكان التركيز في البداية منصبًّا على التهديدات القادمة من الخارج، ومنها قدرات الاختراق المتقدمة المرتبطة بنموذجي Mythos وFable من شركة أنثروبيك، ونظام “Daybreak” الذي تعمل OpenAI على تطويره لفحص الثغرات الأمنية.
غير أن مايكروسوفت بدأت تنبه إلى خطر آخر يتمثل في وكلاء الذكاء الاصطناعي الذين تُنشئهم المؤسسات داخل أنظمتها، إذ قد يتصرفون بطرق غير متوقعة أو يتخذون قرارات تُلحق الضرر بالبيانات والعمليات الحساسة. ويقارن هذا السيناريو بمفهوم “التهديد الداخلي” في الأمن، حين يستخدم موظف صلاحياته لإلحاق الضرر بالمؤسسة.
وفي مقالة نشرها مطلع أكتوبر الجاري، حذّر الرئيس التنفيذي لمايكروسوفت، ساتيا ناديلا، من الاعتماد الكلي على ضمانات الأمان التي توفرها الشركات المطوّرة لوكلاء الذكاء الاصطناعي، مطالبًا المؤسسات ببناء أنظمة مستقلة لرصد تصرفات هذه الوكلاء والتحكم فيها.
وأشار ناديلا إلى أن المؤسسات تتيح لهذه الأنظمة الوصول إلى بيانات بالغة الحساسية وصلاحيات تنفيذ عمليات جوهرية، ما يجعل مراقبة سلوكها مسؤولية لا يجوز تفويضها بالكامل إلى الشركات المطوّرة.
وقالت هاييتيه غالوت، المسؤولة عن قطاع الأمن في مايكروسوفت، إن النماذج المتقدمة لا يمكن الوثوق بها بشكل مطلق، أياً كان الطرف الذي يطوّرها.
وشرحت أن جوهر المشكلة ليس بالضرورة أن هذه النماذج خبيثة أو يسهل اختراقها، بل في صعوبة التنبؤ بكيفية تصرفها؛ فالتدريب عليها يهدف إلى إنجاز المهام، دون أن يضمن التزامها بمعايير المؤسسات أو اتخاذ قرارات منسجمة مع قواعدها التنظيمية.
وتتصاعد المخاطر كلما حصل الوكلاء على صلاحيات واسعة للنفاذ إلى البيانات والأنظمة والأدوات، لأن قرارًا خاطئًا واحدًا قد يترتب عليه ضرر أمني أو تشغيلي جسيم.
وفي هذا الإطار، وسّعت مايكروسوفت حقيبتها الأمنية لمساعدة المؤسسات على احتواء هذه المخاطر، وتضم الإضافات الجديدة ميزة “Guardian Agents” إلى جانب تحديثات لخدمة Microsoft Defender.
وتتمكن ميزة اكتشاف الوكلاء في Microsoft Defender من رصد ما يصل إلى 60 نوعًا من وكلاء الذكاء الاصطناعي التي يستعين بها الموظفون، ومن بينها Claude Code وCodex وOpenClaw.
كما أضافت الشركة أدوات تتيح تقييد وصول الوكلاء إلى البيانات والأنظمة، وضبط صلاحياتهم بحسب طبيعة المهام الموكلة إليهم، ويمكن لهذه الأدوات أن تطلب موافقة بشرية عند رصد قرارات تحمل مخاطر.
ويمنح هذا التوجه مايكروسوفت فرصة لتعزيز مبيعات منتجاتها الأمنية والسحابية، على الرغم من علاقاتها الاستثمارية والتجارية الوثيقة مع OpenAI وأنثروبيك، وامتلاكها مختبرًا خاصًا لتطوير نماذج الذكاء الاصطناعي.
وتقوم إستراتيجية الشركة على مبدأ الفصل بين الجهة المطوّرة لوكلاء الذكاء الاصطناعي والجهة التي تراقب سلوكهم وتقيّم مخاطرهم، على غرار استقلال المدققين عن المؤسسات التي تدقق حساباتها.
وليس هذا التوجه حكرًا على مايكروسوفت؛ فقد انضمت إلى الأعضاء المؤسسين لمنصة “Open Agent Safety Platform” التي أطلقتها إنفيديا، والتي تحظى بدعم يفوق 100 شركة تقنية. وتسعى المنصة إلى عزل الوكلاء داخل بيئات آمنة، ومراقبة سلوكهم، وتمكين إيقاف الأنشطة الخطرة عبر آليات تعتمد على العتاد.
