وحدد المركز، ضمن وثيقة «معايير وكلاء الذكاء الاصطناعي في التعليم والتدريب»، ضوابط تمنع إيهام الطلاب بوجود علاقة شخصية متبادلة مع النظام، أو ممارسة الضغط العاطفي لإطالة مدة الاستخدام، إلى جانب حظر استغلال بيانات القاصرين وتفاعلاتهم لأغراض الاستهداف التجاري.
وأوضح أن الأنظمة التعليمية مطالبة بالكشف عن الطبيعة الافتراضية للشخصيات المستخدمة في المحاكاة، والفصل بين التوصيات التعليمية والإعلانات والمصالح التجارية، مع تمكين المستفيد من إنهاء التفاعل دون تضليل.
حماية القاصرين
وأكدت المعايير ضرورة تقييم تأثير وكلاء الذكاء الاصطناعي في سلامة القاصرين وحقوقهم ونموهم المعرفي والنفسي والاجتماعي، مشددة على أن موافقة ولي الأمر لا تُغني عن التحقق من سلامة الاستخدام.
واشترطت تقديم المعلومات والإفصاحات بلغة تتناسب مع أعمار المستفيدين، ومراعاة أدوار أولياء الأمور والممارسين، والحصول على الموافقات المطلوبة وفق الأنظمة المعمول بها.
وفي المسائل الصحية والنفسية والاجتماعية الحساسة، ألزمت المعايير بمعالجة مخاطر تقديم إرشادات مضللة أو ضارة، والإحالة إلى المختصين المؤهلين عند الحاجة، وعدم اعتماد التشخيصات المبنية على استنتاجات الوكيل وحدها.
منع التمييز الرقمي
وشدد المركز على ضرورة فحص الفروق المؤثرة في جودة مخرجات الذكاء الاصطناعي بين فئات المتعلمين واللغات والبيئات التعليمية المختلفة، ومعالجة التفاوت غير المبرر الذي قد يؤثر في فرص الطلاب.
وأكدت الوثيقة أهمية مراجعة الاستنتاجات الآلية المتعلقة بقدرات المتعلم وخبراته السابقة وإتاحة تصحيحها، ومنع تحولها إلى أحكام دائمة تحد من فرصه التعليمية المستقبلية.
كما نصت على توفير بدائل مناسبة عند وجود عوائق مرتبطة بالمهارات الرقمية أو الموارد المتاحة، وعدم اشتراط شراء خدمات شخصية مدفوعة للحصول على فرصة تعليمية أساسية.
حقوق ذوي الإعاقة
وأفردت المعايير متطلبات لضمان وصول الأشخاص ذوي الإعاقة إلى الخدمات التعليمية المدعومة بالذكاء الاصطناعي، تشمل تهيئة المحتوى ووسائل التفاعل والإفصاح وطلب المساعدة بما يتناسب مع احتياجاتهم.
وأكد المركز ضرورة اختبار قدرة المستفيدين على إنجاز المهام التعليمية الأساسية باستخدام الوسائل المساندة المناسبة، وتوفير بدائل فعالة عند وجود عوائق تقنية، دون الإخلال بالأهداف التعليمية.
وشددت الوثيقة على أن استخدام الوسائل المساندة المشروعة للأشخاص ذوي الإعاقة لا يُعد في ذاته اعتمادًا ضارًا على وكلاء الذكاء الاصطناعي، وأن القصور التقني في إمكانية الوصول يجب ألا يؤدي إلى تقليص فرص المتعلم أو تحميله مسؤولية عوائق لم يتسبب فيها.
