بدأت شركات الذكاء الاصطناعي الكبرى في الصين تقليص القدرات الهجومية لنماذجها الأكثر تطورًا، مع تعزيز وظائفها الدفاعية في مجال الأمن الإلكتروني، وسط توجه حكومي لفرض قيود على تصدير التقنيات القادرة على تنفيذ هجمات إلكترونية تستهدف منشآت وشبكات حساسة.
وذكرت وكالة "بلومبرغ" أن الإصدارات الحديثة من نماذج شركات "علي بابا" و"تينسنت" و"مونشوت إيه آي" تتضمن قيودًا تحد من إمكانية استخدامها في الاختراقات الإلكترونية، في وقت تتزايد فيه المخاوف من استغلال أنظمة الذكاء الاصطناعي المتقدمة لتنفيذ هجمات دون إشراف بشري.
وكشفت "علي بابا" عن أحدث إصدارات سلسلة نماذجها الرئيسية "كوين"، من دون إتاحة أوزان النموذج، وهي المعاملات الداخلية التي تحدد كيفية استجابته للمدخلات، ما يمنع المستخدمين من تنزيل نسخته الكاملة وتشغيلها وتعديلها بصورة مستقلة.
وتكتسب النماذج ذات الأوزان المفتوحة أهمية لدى المطورين والمستخدمين، لأنها تتيح تشغيل الأنظمة محليًا وتخصيص إعداداتها، لكنها توفر هذه الإمكانات أيضًا للقراصنة الذين قد يستغلونها في تطوير أدوات للهجمات الإلكترونية.
وحققت نماذج "ديب سيك" انتشارًا واسعًا في هذا المجال، فيما أصبحت سلسلة "كوين" التابعة لـ"علي بابا" من أكثر عائلات نماذج الذكاء الاصطناعي ذات الأوزان المفتوحة تثبيتًا على مستوى العالم.
واتخذت شركات صينية أخرى إجراءات مماثلة، إذ قلّصت "تينسنت" الوظائف السيبرانية الهجومية في نموذجها "إتش واي 4" قبل إطلاقه في وقت سابق من نوفمبر/ تشرين الثاني الجاري، بينما طبقت "مونشوت إيه آي" قيودًا مشابهة على نموذجها "كيمي كيه 3.1 برو".
أما شركة "زد إيه آي"، فأجرت مراجعات أمنية لنموذجها "جي إل إم 5.3"، وأبلغت مؤسسات بالثغرات المكتشفة في أنظمتها قبل طرح النموذج بأوزان مفتوحة في أغسطس/ آب الماضي.
وتأتي هذه الإجراءات بعد تحذيرات من استخدام نماذج الذكاء الاصطناعي في أنشطة اختراق فعلية. ففي أكتوبر/ تشرين الأول الماضي، أفاد باحثون في شركة الأمن الإلكتروني "كراود سترايك" بأن قراصنة استخدموا نموذج "ديب سيك" في هجمات استهدفت مؤسسات في 14 دولة.
وحذّر كبير علماء الذكاء الاصطناعي في "تينسنت"، ياو شونيو، الذي سبق له العمل في "أوبن إيه آي"، من المخاطر المتزايدة لهذه القدرات.
وقال خلال فعالية في هونغ كونغ في نوفمبر/ تشرين الثاني الجاري إن القدرات السيبرانية للنماذج، والقدرات البيولوجية التي قد تكتسبها قريبًا، تتجه نحو مستوى يصبح معه إلحاق الضرر ممكنًا بالفعل.
وتتزامن هذه التطورات مع تحركات تنظيمية في الصين، إذ أعلنت وزارة التجارة الصينية، في أكتوبر/ تشرين الأول الماضي، خططًا لحظر تصدير أدوات الذكاء الاصطناعي القادرة على مهاجمة البنية التحتية الوطنية الحيوية، أو اختراق الشبكات الحكومية، أو تهديد الأهداف العسكرية.
وبحسب المقترح الأولي، قد تمتد القيود إلى نشر نماذج اللغة الكبيرة المصنفة ضمن الأنظمة الرائدة عالميًا خارج الصين، ما قد يؤثر في طريقة إتاحة الشركات الصينية أكثر نماذجها تقدمًا للمستخدمين والمطورين الدوليين.
وفي مطلع نوفمبر/ تشرين الثاني الجاري، أعلنت أعلى هيئة للتخطيط الاقتصادي في الصين تسريع إعداد معايير جديدة للسلامة وإرشادات أخلاقية لمطوري الذكاء الاصطناعي.
وقال مسؤول في "اللجنة الوطنية للتنمية والإصلاح" إن هناك توافقًا واسعًا بشأن الفرص والمخاطر المرتبطة بهذه التقنية، مؤكدًا توجه السلطات إلى دمج إجراءات الأمن والسلامة في مختلف مراحل تطويرها.
ونقلت "بلومبرغ" عن كبير المحللين في منظمة "تيم تي 5" المتخصصة في رصد الأنشطة الإلكترونية بمنطقة آسيا والمحيط الهادئ، تشارلز لي، قوله إن الصين تحاول تحقيق توازن بين تسويق تقنياتها على المستوى الدولي والحفاظ على السيطرة الاستراتيجية عليها.
وأشار لي إلى أن التقارير التي تتحدث عن تضييق النماذج الصينية المتقدمة الفجوة مع نظيراتها الأميركية في القدرات السيبرانية تدفع بكين إلى التعامل مع هذه الإمكانات باعتبارها أصولًا استراتيجية تستدعي ضوابط أكثر صرامة على تصديرها.
ولا تقتصر القيود على الشركات الصينية، إذ تفرض شركات أميركية منذ أشهر إجراءات تحد من الوصول إلى أنظمة الذكاء الاصطناعي الأكثر تطورًا في مجال الأمن الإلكتروني.
وأبقت شركة "أنثروبيك" نموذجها "كلود ميثوس بريفيو" خارج نطاق الاستخدام العام، وقصرت إتاحته على مؤسسات مختارة لأغراض دفاعية، بالتعاون مع الحكومة الأميركية في اختبار القدرات السيبرانية لأنظمتها المتقدمة.
وجاءت هذه الإجراءات بعد سلسلة حوادث مرتبطة باستخدام منتجات الذكاء الاصطناعي في عمليات إلكترونية مستقلة، أثارت تساؤلات بشأن قدرة النماذج على تنفيذ أنشطة هجومية دون تدخل مباشر من البشر.
وخلال الصيف الماضي، أعلنت شركتا "أنثروبيك" و"أوبن إيه آي" عن حوادث تمكنت فيها نماذجهما من تجاوز بعض ضوابط السلامة ومهاجمة مواقع إلكترونية تابعة لأطراف ثالثة.
وأثارت هذه الوقائع مخاوف لدى الباحثين والمسؤولين الحكوميين، ودفعت إلى المطالبة باختبارات أكثر صرامة لسلامة النماذج، وتوفير بيئات اختبار آمنة تتيح تقييم قدراتها السيبرانية قبل توسيع نطاق استخدامها.
وتشير التحركات الأخيرة للشركات الصينية والأميركية إلى تزايد الاهتمام بالحد من القدرات الهجومية لأنظمة الذكاء الاصطناعي، مع الحفاظ على إمكاناتها الدفاعية في اكتشاف الثغرات الأمنية ومعالجتها، وسط نقاش متصاعد بشأن الضوابط اللازمة لتطوير هذه التقنيات وإتاحتها.
شركات الذكاء الاصطناعي الصينية تقلّص قدرات نماذجها على تنفيذ الهجمات الإلكترونية
بدأت شركات الذكاء الاصطناعي الكبرى في الصين تقليص القدرات الهجومية لنماذجها الأكثر تطورًا، مع تعزيز وظائفها الدفاعية في مجال الأمن الإلكتروني، وسط توجه حكومي لفرض قيود على تصدير التقنيات القادرة على تنفيذ هجمات إلكترونية تستهدف منشآت وشبكات حساسة. وذكرت وكالة
