مخاوف من فقدان السيطرة على الذكاء الاصطناعي: فرنسا تقود اتفاقًا دوليًا

أعلن الرئيس الفرنسي إيمانويل ماكرون، الإثنين، التوصل إلى اتفاق دولي جديد لتعزيز الرقابة على أنظمة الذكاء الاصطناعي المتقدمة، في ظل تنامي المخاوف من المخاطر الأمنية المرتبطة بتطور هذه التكنولوجيا وإمكانية إساءة استخدامها أو فقدان السيطرة عليها.
وجاء الإعلان عقب اجتماع عقده ماكرون عبر الاتصال المرئي، بمشاركة نحو 50 شخصية من قادة الدول ومسؤولي شركات التكنولوجيا والباحثين، بهدف التوصل إلى تفاهمات مشتركة بشأن سلامة نماذج الذكاء الاصطناعي الأكثر تطورًا.
وأفاد قصر الإليزيه بأن الاجتماع أسفر عن إصدار إعلان بعنوان "نداء باريس من أجل سلامة الذكاء الاصطناعي"، يتضمن التزامات لتعزيز الرقابة على هذه الأنظمة، وتطوير آليات مشتركة لتقييم مخاطرها والتعامل مع الحوادث التي قد تنجم عن استخدامها.
وقال ماكرون، في منشور على منصة "إكس"، إن المشاركين اتفقوا على ضرورة تعزيز التقييمات المستقلة والعلنية لمخاطر الذكاء الاصطناعي، وتحسين تبادل المعلومات بشأن الحوادث الخطيرة، وضمان مساءلة الشركات والجهات المسؤولة عن تطوير النماذج.
وشارك في الاجتماع قادة من ثماني دول، هي كندا والنرويج وهولندا وفنلندا واليابان وبريطانيا والبحرين وسيراليون، إلى جانب وزير الخزانة الأميركي سكوت بيسنت، وممثلين عن "الأمم المتحدة" و"منظمة التعاون الاقتصادي والتنمية".
كما شارك عدد من أبرز المسؤولين في قطاع الذكاء الاصطناعي، بينهم الرئيس التنفيذي لشركة "أوبن إيه آي" سام ألتمان، والرئيس التنفيذي لشركة "أنثروبيك" داريو أمودي، ورئيس شركة "مايكروسوفت" براد سميث.
ولم تضم قائمة المشاركين ممثلين رسميين عن "الاتحاد الأوروبي"، رغم الدور الذي يؤديه التكتل في تطوير القواعد المنظمة لاستخدام الذكاء الاصطناعي.
وبحسب بيان قصر الإليزيه، اتفق المشاركون على ثلاثة محاور رئيسية لتعزيز سلامة الذكاء الاصطناعي، تشمل إخضاع النماذج المتقدمة لتقييمات مستقلة، ووضع معايير مشتركة للإبلاغ عن الحوادث الأمنية، وتحديد مسؤوليات الجهات المطورة والمشغلة لهذه الأنظمة.
وينص الإعلان على تطوير إطار مشترك لتقييم المخاطر وإدارتها، باستخدام معايير تقنية موحدة تساعد على مقارنة مستويات السلامة بين النماذج المختلفة.
كما يتضمن التزامًا بنشر نتائج التقييمات التي لا تتضمن معلومات حساسة، وإتاحتها للجمهور بصورة موحدة، بما يسمح بزيادة الشفافية بشأن قدرات النماذج وحدودها والمخاطر المعروفة المرتبطة بها.
وتشمل الالتزامات أيضًا تعزيز أنظمة الإنذار المبكر وتبادل المعلومات عن الحوادث الخطيرة، خصوصًا تلك المتعلقة بالهجمات السيبرانية أو فقدان السيطرة على أنظمة الذكاء الاصطناعي.
وفي ما يتعلق بمسؤولية الشركات، يدعو الإعلان مطوري النماذج المتقدمة إلى الكشف عن قدراتها ومحدوديتها ومخاطرها المعروفة، ودعم عمليات التقييم المستقلة، وتطوير آليات تسمح بإيقاف تشغيل النماذج عند الضرورة.
ووقعت الإعلان ست دول، هي فرنسا وكندا وفنلندا والنرويج وهولندا والبحرين، إلى جانب شركات متخصصة في الذكاء الاصطناعي ومنظمات من المجتمع المدني.
ومن بين الشركات الموقعة "أوبن إيه آي" و"أنثروبيك" و"مايكروسوفت" و"ميسترال إيه آي"، فيما أكد قصر الإليزيه أن الإعلان سيظل مفتوحًا أمام انضمام دول ومؤسسات أخرى.
ويهدف الاتفاق إلى تعزيز التعاون الدولي في مواجهة مخاطر الذكاء الاصطناعي، من خلال وضع قواعد مشتركة للتقييم والمراقبة وتبادل التحذيرات، بدل اعتماد كل دولة أو شركة على إجراءات منفصلة.
ويأتي التحرك الفرنسي في وقت تتسارع فيه قدرات نماذج الذكاء الاصطناعي وتتوسع استخداماتها، ما يزيد أهمية تطوير وسائل للتأكد من سلامتها ومحاسبة الجهات المسؤولة عنها.