موظفون سابقون في إدارة ماسك يخترقون أنظمة "أنثروبيك" بالذكاء الاصطناعي

كشفت صحيفة "واشنطن بوست"، الإثنين، أن شركة ناشئة للأمن السيبراني، أسسها موظفون سابقون في إدارة الكفاءة الحكومية الأميركية التي قادها إيلون ماسك، تمكنت من اختراق أنظمة داخلية حساسة لدى شركة الذكاء الاصطناعي "أنثروبيك" خلال أقل من 12 ساعة، باستخدام أدوات تعتمد على الذكاء الاصطناعي.
وبحسب الصحيفة، أبلغت شركة "كاثيدرال" الناشئة، التي تأسست قبل أشهر قليلة، شركة "أنثروبيك"، المطورة لروبوت المحادثة "كلود"، بأنها تمكنت من الوصول إلى بيانات داخلية وأنظمة مراسلة خاصة بالشركة، بعد استغلال ثغرات في برمجيات تجارية تستخدمها لإدارة أعمالها.
واطلعت "واشنطن بوست" على مسودة تقرير أعدته "كاثيدرال"، أوضحت فيه أن باحثيها شغّلوا وكلاء ذكاء اصطناعي لمدة تقل عن 12 ساعة، وتمكنوا خلالها من اكتشاف مسارات تتيح الوصول إلى معلومات داخلية، شملت نصوص اجتماعات وتفاصيل عن الرواتب وعروض العمل، إضافة إلى مراسلات تناقش نماذج الذكاء الاصطناعي المتقدمة التي تطورها "أنثروبيك".
وجرى الاختبار ضمن برنامج للكشف عن الثغرات الأمنية تتيحه "أنثروبيك" لباحثين خارجيين، ويسمح لهم باختبار أنظمتها مقابل مكافآت عند اكتشاف نقاط ضعف والإبلاغ عنها.
واستغل باحثو "كاثيدرال" ثغرات في برمجيات تجارية خارجية تعتمد عليها "أنثروبيك" وشركات أخرى في تنفيذ مهام إدارية وتجارية، ما أتاح لهم الوصول إلى أجزاء من بنيتها التقنية الداخلية.
وأكدت "أنثروبيك"، في بيان نقلته الصحيفة، أن الباحثين تمكنوا من الوصول إلى مجموعة محدودة من الأنظمة المرتبطة بالمبيعات والموارد البشرية وتكنولوجيا المعلومات.
لكن الشركة شددت على أن الاختراق لم يشمل محادثات العملاء مع "كلود"، أو الردود التي تولدها نماذج الذكاء الاصطناعي، أو الشيفرات المصدرية، أو الأوزان البرمجية للنماذج التي تطورها.
وأوضحت أنها عطلت البرمجيات المتضررة، وعملت مع الشركات الموردة لمعالجة الثغرات الأمنية، وأطلعت مسؤولين في الحكومة الفيدرالية على تفاصيل الواقعة.
وأضافت أن أنظمة المراقبة التابعة لها رصدت بعض الأنشطة قبل إبلاغ الباحثين عنها، وأنها قطعت وصولهم في اليوم نفسه.
وقالت الشركة إنها لم تعثر على أدلة تشير إلى استغلال هذه الثغرات من جهات أخرى خارج فريق "كاثيدرال"، مع اعتراضها على ما وصفته بالمبالغة في التداعيات المحتملة للواقعة على الأمن القومي.
كما اتهمت "أنثروبيك" الباحثين بعدم الالتزام الكامل بقواعد برنامج الاختبارات الأمنية، معتبرة أنهم لم يكشفوا عن جميع الأنشطة التي نفذوها خلال الاختبار.
وتأسست "كاثيدرال" على يد موظفين سابقين في إدارة الكفاءة الحكومية الأميركية، التي أنشأها الرئيس دونالد ترامب وأسند قيادتها إلى رجل الأعمال إيلون ماسك قبل مغادرته الإدارة.
وتتخصص الشركة الناشئة في تطوير أدوات للأمن السيبراني تعتمد على الذكاء الاصطناعي، وتسعى إلى تسويق خدماتها للجهات الحكومية الأميركية والشركات التجارية.
ونقلت "واشنطن بوست" عن مسؤول أن ثلاث وكالات فيدرالية تعاقدت مؤخرًا مع الشركة، في ظل اهتمام حكومي متزايد باستخدام الذكاء الاصطناعي لاكتشاف الثغرات الأمنية واختبار قدرة الأنظمة الحساسة على مقاومة الهجمات.
وتأتي الواقعة في سياق خلافات سابقة بين إدارة ترامب و"أنثروبيك"، بعدما فرضت وزارة الدفاع الأميركية قيودًا على استخدام تقنيات الشركة في الأنظمة الفيدرالية، إثر رفضها السماح باستخدام نماذجها في الأسلحة ذاتية التشغيل أو المراقبة الداخلية واسعة النطاق.
وأثارت نتائج الاختبار تساؤلات بشأن مستوى الحماية الأمنية لدى شركات الذكاء الاصطناعي الكبرى، خصوصًا مع تنامي قدرة الأدوات الآلية على اكتشاف الثغرات واستغلالها خلال فترات قصيرة.
وتتزايد هذه المخاوف في ظل احتمال استهداف شركات التكنولوجيا الأميركية من جانب أجهزة استخبارات أجنبية أو مجموعات قرصنة تسعى إلى الوصول إلى بيانات داخلية وتقنيات متقدمة.
وحذرت "كاثيدرال"، في مسودة تقريرها التي اطلعت عليها الصحيفة، من وجود فجوة كبيرة بين القدرات الهجومية المتطورة المدعومة بالذكاء الاصطناعي ومستوى الدفاعات الأمنية المستخدمة لحماية المؤسسات التكنولوجية الحساسة.
واعتبرت أن قدرة الباحثين على استغلال ثغرات في برمجيات تجارية اعتيادية للوصول إلى أنظمة داخلية لدى إحدى الشركات الرائدة في الذكاء الاصطناعي تمثل تحذيرًا للشركات الأميركية بشأن المخاطر المرتبطة بالاعتماد على برمجيات خارجية.
وتسلط الواقعة الضوء على التحديات الأمنية التي تواجه شركات الذكاء الاصطناعي، مع اتساع استخدام أدوات قادرة على تنفيذ اختبارات واكتشاف نقاط ضعف بصورة آلية، في حين تؤكد "أنثروبيك" أن نطاق الوصول كان محدودًا، وأن الثغرات عولجت من دون وجود أدلة على استغلالها من جهات أخرى.