السغروشني تدعو من جنيف إلى إطار جديد لمساءلة الذكاء الاصطناعي

الأربعاء 08 - 09:52

بقلم: Boukhairi Walid

السغروشني تدعو من جنيف إلى إطار جديد لمساءلة الذكاء الاصطناعي

أكدت الوزيرة المنتدبة لدى رئيس الحكومة المكلفة بالانتقال الرقمي وإصلاح الإدارة، أمل الفلاح السغروشني، أن التطور المتسارع لأنظمة الذكاء الاصطناعي يفرض إعادة النظر في آليات مساءلتها، معتبرة أن تحديد المسؤولية القانونية عن القرارات التي تتخذها هذه الأنظمة يمثل أحد أبرز التحديات التي ستواجهها المنظومات القانونية خلال السنوات المقبلة.

وجاءت مداخلة السغروشني، أمس الثلاثاء بمدينة جنيف، خلال جلسة رفيعة المستوى خصصت لمناقشة سبل احترام حقوق الإنسان وحمايتها في عصر الذكاء الاصطناعي، وذلك ضمن أشغال الحوار العالمي حول حكامة هذه التكنولوجيا.

وأوضحت الوزيرة أن أنظمة الذكاء الاصطناعي الحديثة أصبحت تعتمد على تفاعل عدة وكلاء ذكيين يعملون بشكل متزامن لاتخاذ القرار، عوض الاعتماد على نظام واحد، وهو ما يزيد من تعقيد تحديد المسؤوليات في حال وقوع أخطاء أو اختلالات.

وأضافت أن هذا الواقع يثير إشكالات قانونية جديدة، تتمثل في معرفة الجهة المسؤولة عن القرار النهائي، وكيفية توزيع المسؤولية بين مختلف الأنظمة التي شاركت في إنتاجه، مشبهة الأمر بعمل جماعي يصعب معه تحديد مسؤولية كل طرف عن النتيجة النهائية.

وفي هذا السياق، أشارت السغروشني إلى أن المغرب يعالج سنويا حوالي 52 مليون معاملة إدارية رقمية، معتبرة أن تتبع مصدر أي خلل وسط هذا الحجم الكبير من العمليات يستدعي اعتماد أدوات أكثر تطورا لضمان الشفافية وتحديد المسؤوليات.

ودعت إلى إرساء منظومة متكاملة لتعزيز مساءلة الذكاء الاصطناعي، تقوم على توثيق مختلف مراحل عمل الأنظمة الذكية، خاصة داخل الإدارات العمومية، مع إسناد المسؤولية النهائية إلى مسؤول بشري واضح، وضمان حق المواطنين في الطعن والحصول على الإنصاف في آجال تتناسب مع سرعة اتخاذ القرارات الرقمية.

وأكدت الوزيرة أن استقلالية أنظمة الذكاء الاصطناعي في تنفيذ المهام لا ينبغي أن تعني استقلالها عن الإطار القانوني، مشددة على أهمية اعتماد حكامة استباقية ترتكز على احترام حقوق الإنسان، وتعزيز آليات تقييم المخاطر والتدقيق والإشراف البشري، بما يراعي خصوصيات كل دولة وأولوياتها التنموية.

وتناول المشاركون في الجلسة عدداً من القضايا المرتبطة بحكامة الذكاء الاصطناعي، من بينها الشفافية، والمساءلة، والرقابة البشرية، والحد من المخاطر المحتملة طوال دورة حياة الأنظمة الذكية، فضلاً عن سبل حماية الأطفال والنساء والفئات الهشة من التداعيات السلبية لهذه التقنيات.