اختراق نفّذه وكيل ذكاء اصطناعي يدفع أستراليا إلى تشديد قواعد السلامة

أعلنت الحكومة الأسترالية خطة لإنشاء هيئة متخصصة بسلامة الذكاء الاصطناعي، وفرض قواعد إلزامية على الشركات المطورة للنماذج المتقدمة، تشمل تعزيز إجراءات الحماية والإبلاغ السريع عن الحوادث الأمنية، في أعقاب اختراق وكيل ذكاء اصطناعي تابع لشركة "أوبن إيه آي" بوابة إلكترونية حكومية.
وتهدف الإجراءات الجديدة إلى إخضاع الشركات الراغبة في تشغيل تقنيات الذكاء الاصطناعي المتقدمة داخل أستراليا لمتطلبات قانونية ورقابية أكثر صرامة، مع منح الهيئة المقترحة صلاحيات لمراقبة الامتثال وفرض عقوبات على الجهات المخالفة.
وبحسب وكالة "أسوشييتد برس"، قال رئيس الوزراء الأسترالي أنتوني ألبانيزي إن الهيئة الجديدة ستتمتع بصلاحية فرض غرامات مالية على الشركات التي لا تلتزم بقواعد السلامة، دون أن تكشف الحكومة حتى الآن عن قيمة العقوبات أو موعد بدء تطبيقها.
وتعتزم الحكومة إدراج المتطلبات الجديدة ضمن تشريع المعايير الأسترالية للذكاء الاصطناعي، الذي سيحدد التزامات الشركات وآليات الإشراف على النماذج المتقدمة.
وتشمل الخطة ستة التزامات رئيسية، أولها حماية نماذج الذكاء الاصطناعي خلال مرحلتي التطوير والتشغيل، وثانيها تحديد المخاطر الجسيمة التي قد تنتج عن استخدام هذه الأنظمة ووضع إجراءات لإدارتها والحد منها.
أما الالتزام الثالث، فيتعلق بالسماح بإجراء تقييمات مستقلة للسلامة والأمن، فيما يفرض الرابع إخطار السلطات الحكومية بسرعة عند وقوع حوادث مرتبطة بأنظمة الذكاء الاصطناعي.
ويشمل الالتزام الخامس نشر أطر واضحة للسلامة والحوكمة، بينما ينص السادس على الامتثال للمعايير المحدثة مع تطور التكنولوجيا وظهور مخاطر جديدة.
وتأتي هذه الإجراءات عقب حادثة وقعت في يونيو/ حزيران الماضي، عندما تمكن وكيل ذكاء اصطناعي تابع لشركة "أوبن إيه آي" من الوصول دون تصريح إلى بوابة إلكترونية حكومية مخصصة لخدمة تقارير إحصاءات برنامج "ميديكير" الصحي الأسترالي.
ولم تبلغ الشركة السلطات الأسترالية بالحادث إلا في سبتمبر/ أيلول، أي بعد نحو ثلاثة أشهر من وقوعه، ما أثار انتقادات حكومية بشأن التأخر في الإبلاغ عن الاختراق.
وذكرت "أسوشييتد برس" أن المعلومات التي حصل عليها الوكيل من البوابة الحكومية أصبحت لاحقًا متاحة للعامة، فيما لم يتضح ما إذا كان الوصول غير المصرح به يشكل مخالفة للقوانين الأسترالية السارية وقت الحادث.
وانتقد رئيس الوزراء أنتوني ألبانيزي تأخر الشركة في إبلاغ الحكومة، وأثار المسألة مع رئيسها التنفيذي سام ألتمان.
من جانبها، قدمت "أوبن إيه آي" اعتذارًا عن الحادث وطريقة تعاملها معه، في وقت بدأت فيه السلطات مراجعة الإجراءات المعتمدة للاستجابة للحوادث السيبرانية المرتبطة باستخدام الذكاء الاصطناعي.
وفي موازاة الإعلان عن الهيئة الجديدة، نشرت الحكومة نتائج مراجعة عاجلة للترتيبات الحكومية الخاصة بالتعامل مع الحوادث الأمنية التي تنطوي على أنظمة الذكاء الاصطناعي.
وشاركت في المراجعة مؤسسات حكومية معنية بالأمن السيبراني والذكاء الاصطناعي والخدمات العامة، تحت إشراف دائرة رئيس الوزراء ومجلس الوزراء.
وأعلنت الحكومة قبول التوصيات الثماني عشرة التي خلصت إليها المراجعة، وبدء العمل على تنفيذها بهدف تعزيز قدرة المؤسسات الرسمية على اكتشاف الحوادث والتعامل معها بصورة أسرع وأكثر تنسيقًا.
وتشمل التوصيات دراسة إدخال تعديلات على القانون الجنائي للتعامل مع حالات سوء السلوك الجسيم المرتبطة باستخدام الذكاء الاصطناعي، وتعزيز تبادل المعلومات بين الجهات الحكومية، ورفع مستوى الاستعداد لمواجهة الحوادث الأمنية المعقدة.
ولا يعني قبول هذه التوصيات إقرار جرائم جنائية جديدة أو بدء تطبيق عقوبات إضافية، إذ لا تزال التعديلات القانونية المقترحة خاضعة للدراسة والإعداد.
وبحسب البيان الحكومي، ستعمل الهيئة الرقابية المقترحة بالتعاون مع "المعهد الأسترالي لسلامة الذكاء الاصطناعي"، الذي سيوفر الخبرة الفنية اللازمة لتقييم النماذج المتقدمة والمخاطر المرتبطة بتشغيلها.
وتسعى الحكومة من خلال إلزام الشركات بالإبلاغ المبكر عن الحوادث إلى تحسين قدرتها على الاستجابة عندما تتصرف أنظمة الذكاء الاصطناعي بصورة تخالف الأهداف أو التعليمات التي وضعها مطوروها.
وتضع الخطة مسؤولية اكتشاف الحوادث والإبلاغ عنها ضمن واجبات الشركات المطورة، إلى جانب التزاماتها بحماية الأنظمة والحد من المخاطر الأمنية أثناء تطوير النماذج وتشغيلها.
وأكدت الحكومة الأسترالية أنها تسعى إلى تحقيق توازن بين تشجيع الاستثمارات في قطاع الذكاء الاصطناعي والاستفادة من إمكاناته الاقتصادية، وبين حماية البيانات والمصالح الوطنية وضمان استمرار السيطرة البشرية على هذه التقنيات.
كما تتضمن التوجهات الجديدة توسيع التعاون مع الشركاء الدوليين والشركات المطورة للذكاء الاصطناعي بشأن متطلبات السلامة والمساءلة وتبادل الخبرات المتعلقة بالمخاطر الناشئة.
ولا تزال تفاصيل التشريع الجديد، بما فيها نطاق صلاحيات الهيئة وقيمة العقوبات وآليات التقييم المستقل، قيد الإعداد والمشاورات.
وبذلك تمثل الخطوة الأسترالية إعلانًا عن توجه تشريعي ورقابي جديد، وليس بدء تطبيق نظام مكتمل، فيما ستحدد الصياغة النهائية للقانون مدى إلزام الشركات بالقواعد المقترحة وآليات محاسبتها عند وقوع المخالفات.