دعت الوزيرة المنتدبة لدى رئيس الحكومة المكلفة بالانتقال الرقمي وإصلاح الإدارة، أمل الفلاح السغروشني، صباح اليوم، إلى وضع إطار جديد لمساءلة منظومات الذكاء الاصطناعي. وأكدت السغروشني، في مداخلة لها بجنيف، أن تحديد المسؤولية في عمل هذه المنظومات يمثل أحد أبرز التحديات القانونية الراهنة.
جاءت هذه الدعوة خلال مشاركتها في جلسة رفيعة المستوى ضمن الحوار العالمي حول حكامة الذكاء الاصطناعي، ركزت على صون حقوق الإنسان وتعزيزها في ظل تطورات الذكاء الاصطناعي. وأوضحت الوزيرة أن الأجيال المتطورة من أنظمة الذكاء الاصطناعي تعتمد على تشابك وتعاون أنظمة مستقلة متعددة لاتخاذ القرارات دون وجود تدخل بشري مباشر في كل خطوة، مما يعقد مهمة تحديد المسؤولية عند وقوع أخطاء أو أعطال، ويصعّب توزيع الأدوار بين مختلف المكونات المساهمة في اتخاذ القرار النهائي.
وأشارت السغروشني إلى مثال المغرب الذي يعالج حوالي 52 مليون معاملة إدارية رقمية سنوياً، مؤكدة أن تحديد مصدر أي خلل في هذا الحجم الهائل من المعاملات يشكل تحدياً بالغ التعقيد. ولمواجهة هذه التحديات، شددت الوزيرة على ضرورة تطوير آليات جديدة تتيح فهم كيفية عمل أنظمة الذكاء الاصطناعي، وتتبع مسار اتخاذ القرار، وتحديد المسؤوليات، والكشف عن أي ثغرات قد تهدد حقوق الأفراد.
واقترحت الوزيرة ثلاثة إجراءات أساسية لتعزيز مبدأ المساءلة في أنظمة الذكاء الاصطناعي: توثيق شامل لمراحل عمل هذه الأنظمة، خاصة في القطاعات العمومية؛ تحديد مسؤول بشري واضح عن أي قرار يؤثر على حقوق الأفراد؛ وضمان حق المواطنين في تقديم الطعون والحصول على الإنصاف ضمن آجال تتناسب مع السرعة الفائقة لعمل هذه الأنظمة.
وختمت السغروشني بالقول إن الاستقلالية التشغيلية للخوارزميات يجب ألا تكون ذريعة لتجاوز القانون، مطالبة باعتماد حكامة استباقية تستند إلى مبادئ حقوق الإنسان، وتطوير أدوات عملية لتقييم المخاطر، والمراقبة، والتدقيق، والإشراف البشري، مع الأخذ بعين الاعتبار الخصوصيات والأولويات التنموية لكل دولة.
