رئيس "مايكروسوفت": الحليب والغسالات يخضعان لقواعد سلامة أكثر من الذكاء الاصطناعي

دعا رئيس شركة "مايكروسوفت"، براد سميث، إلى وضع قواعد عالمية أكثر صرامة لتنظيم الذكاء الاصطناعي، تشمل إخضاع الأنظمة الجديدة لتقييمات مستقلة، وإلزام الشركات بالإبلاغ عن الحوادث، وتوفير آليات لإيقاف الأنظمة التي تخرج عن السيطرة، محذرًا من أن منتجات استهلاكية يومية، مثل الحليب والغسالات، تخضع لمتطلبات سلامة أكثر وضوحًا من تلك المفروضة على الذكاء الاصطناعي.
وقال سميث، في مقابلة مع هيئة الإذاعة البريطانية "بي بي سي"، نُشرت الإثنين 12 أكتوبر/ تشرين الأول، إن التطور السريع لقدرات الذكاء الاصطناعي يستدعي اعتماد إطار دولي ملزم لضمان سلامة هذه التقنية، بدلًا من الاكتفاء بالتعهدات الطوعية التي تضعها الشركات المطورة.
وبحسب وكالة "رويترز"، شدد سميث على ضرورة وجود جهات مستقلة تتولى تقييم التقنيات الجديدة ومخاطرها قبل إتاحتها للمستخدمين، إلى جانب فرض التزامات قانونية على الشركات بإعداد تقارير عن الحوادث وإخطار المتضررين عندما يتسبب أحد وكلاء الذكاء الاصطناعي في اختراق أنظمتهم.
وقارن رئيس "مايكروسوفت" بين الضوابط المفروضة على المنتجات التقليدية وتلك التي تخضع لها أنظمة الذكاء الاصطناعي، مشيرًا إلى أن الغسالات وعبوات الحليب تخضع لقواعد سلامة وفحوص منتظمة، في حين لا تزال الرقابة على الأنظمة الذكية أقل صرامة.
وأوضح أن الخبرات المتراكمة في تنظيم سلامة المنتجات الاستهلاكية يمكن الاستفادة منها لتطوير قواعد مماثلة للذكاء الاصطناعي، بما يتيح التحقق من سلامة الأنظمة ومحاسبة الجهات المسؤولة عند وقوع أضرار.
طالب سميث بتوفير ما وصفه بـ"مكابح الطوارئ" في أنظمة الذكاء الاصطناعي، وهي آليات تتيح للشركات إيقاف الأنظمة أو إبطاء عملها عندما تتجاوز حدود السلوك الآمن أو تنفذ إجراءات غير متوقعة.
وتكتسب هذه المطالب أهمية متزايدة مع توسع استخدام وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام نيابة عن المستخدمين، بما يشمل التعامل مع الملفات والبرمجيات والحسابات والأنظمة الرقمية.
ففي حين قد تقتصر أخطاء أنظمة المحادثة على تقديم معلومات غير دقيقة أو الكشف عن بيانات حساسة، يمكن للوكلاء الأذكياء تنفيذ إجراءات غير مقصودة أو الوصول إلى معلومات لا ينبغي لهم الاطلاع عليها، خصوصًا عندما تُمنح لهم صلاحيات واسعة.
ويرى سميث أن التعامل مع هذه المخاطر يتطلب الانتقال من المبادئ العامة والتعهدات الطوعية إلى إجراءات قابلة للتحقق، بما يشمل اختبارات مستقلة للنماذج المتقدمة قبل إطلاقها.
كما دعا إلى إلزام الشركات بإعداد تقارير رسمية عن الحوادث المرتبطة بأنظمتها، وإبلاغ الأشخاص والمؤسسات المتضررة في حال تسبب أحد وكلاء الذكاء الاصطناعي في اختراق أنظمتهم.
وتثير هذه المخاطر تساؤلات بشأن تحديد المسؤولية القانونية عند وقوع الضرر، ولا سيما عندما يكون النظام قد طُوّر من شركة، ودُمج في خدمات مؤسسة أخرى، ومُنح صلاحيات تشغيلية من جهة ثالثة.
وتزداد أهمية تحديد هذه المسؤوليات مع تطور الأنظمة وقدرتها على تنفيذ مهام بصورة أكثر استقلالية، بما يجعل الرقابة والمساءلة جزءًا أساسيًا من حماية المستخدمين.
وفي سياق الجهود الرامية إلى تعزيز الرقابة، أشارت "رويترز" إلى تجربة معهد سلامة الذكاء الاصطناعي البريطاني، الذي يحصل بموجب اتفاقات طوعية مع شركات تطوير النماذج على إمكانية تقييم الأنظمة المتقدمة قبل طرحها للاستخدام.
وتهدف هذه الاختبارات إلى فحص قدرات النماذج وتحديد المخاطر المرتبطة بها، في إطار مساعٍ لتطوير آليات رقابة تواكب التطور السريع للتقنية.
ونقلت الوكالة عن وزير الذكاء الاصطناعي البريطاني، كانيشكا نارايان، أن الحكومة ستدرس فرض قواعد تنظيمية على النماذج المتقدمة إذا ثبت أن الإجراءات الحالية غير كافية لضمان سلامتها.
وتعكس هذه المقاربة توجهًا نحو تقييم فاعلية التدابير الطوعية القائمة قبل الانتقال إلى فرض التزامات قانونية أوسع على الشركات المطورة.
في المقابل، تثير الدعوات إلى تشديد التنظيم نقاشًا بشأن تأثير القواعد الجديدة على المنافسة والابتكار، إذ قد تتحمل الشركات الصغيرة والناشئة أعباء مالية وتنظيمية يصعب عليها الوفاء بها، مقارنة بالشركات التكنولوجية الكبرى.
وبحسب "رويترز"، يتخوف منتقدون من أن تؤدي المتطلبات التنظيمية المكلفة إلى تعزيز مواقع الشركات الراسخة في السوق، أو أن تُستخدم القيود المفروضة على تطوير الأنظمة المتقدمة لإبطاء المنافسة.
معايير داخلية في "مايكروسوفت"
تأتي تصريحات سميث في وقت أعلنت فيه "مايكروسوفت"، ضمن تقرير الشفافية الخاص بالذكاء الاصطناعي لهذا العام، تطوير معاييرها الداخلية للذكاء الاصطناعي المسؤول.
وأوضحت الشركة أن المعايير المحدّثة تراعي الاختلافات بين مكونات التقنية واستخداماتها ومستويات المخاطر المرتبطة بها، في إطار جهودها لتعزيز الحوكمة الداخلية للأنظمة التي تطورها.
ومع ذلك، تبقى مسألة الرقابة المستقلة والمسؤولية القانونية عند وقوع الأضرار محورًا رئيسيًا في النقاش بشأن تنظيم الذكاء الاصطناعي، في ظل اتساع استخداماته وتزايد قدرته على تنفيذ إجراءات رقمية بصورة مستقلة.