قراصنة يستهدفون نماذج الذكاء الاصطناعي لتحويلها إلى أدوات للهجمات الإلكترونية

كشف باحثون في شركة الأمن السيبراني "سيمانتك" عن وكيل ذكاء اصطناعي خبيث صُمم للاستيلاء على موارد نماذج لغوية غير محمية، واستخدامها في التخطيط لهجمات إلكترونية وتنفيذها بصورة مستقلة، بما يشمل استغلال الثغرات الأمنية وسرقة البيانات ونشر برمجيات تعدين العملات الرقمية، دون الحاجة إلى موافقة بشرية على كل خطوة.
ووفق تقرير أصدرته الشركة، الأربعاء 21 أكتوبر/ تشرين الأول 2026، يتضمن تصميم الوكيل تعليمات تسمح له بتنفيذ ما يصل إلى 100 ألف خطوة بصورة تلقائية، مع تحميل مالكي نماذج الذكاء الاصطناعي المستغلة تكاليف العمليات التي ينفذها المهاجمون.
ويعتمد هذا الأسلوب على تقنية تُعرف باسم "اختطاف نماذج اللغة الكبيرة"، التي تتيح للمهاجمين استغلال خدمات ذكاء اصطناعي مكشوفة على الإنترنت أو بيانات وصول مسروقة، للحصول على قدرات حاسوبية دون دفع تكاليف استخدامها.
وتكمن خطورة الأداة المكتشفة، بحسب "سيمانتك"، في أن نموذج الذكاء الاصطناعي المستهدف لا يُستخدم للإجابة عن أسئلة المهاجمين فحسب، بل يُطلب منه تولي مهمة التخطيط للهجمات وتوجيه الأدوات اللازمة لتنفيذها.
وتشمل التعليمات التي رصدها الباحثون البحث عن خوادم وأنظمة معرضة للاختراق، واستغلال الثغرات في البرمجيات الشائعة، والوصول إلى قواعد البيانات، وسرقة بيانات تسجيل الدخول والمعلومات الحساسة، إلى جانب تثبيت برامج تعدين العملات الرقمية وإعادة إصابة الأنظمة المخترقة.
لكن الشركة أوضحت أن اكتشاف التعليمات لا يعني إثبات نجاح الوكيل في تنفيذ جميع هذه الأنشطة، إذ لم يشغّل النظام المستخدم في رصده الأدوات الهجومية التي حاول المهاجمون استدعاءها.
كيف اكتُشفت الأداة؟
قالت "سيمانتك" إن فريقها المتخصص في رصد التهديدات تمكن من الحصول على مجموعة التعليمات الكاملة للوكيل خلال صيف 2026، باستخدام نظام وهمي يحاكي خدمة ذكاء اصطناعي غير محمية ومتاحة عبر الإنترنت.
ويُستخدم هذا النوع من الأنظمة، المعروف باسم "مصيدة الهجمات"، لجذب محاولات الاختراق ومراقبة سلوك المهاجمين، دون منحهم إمكانية الوصول إلى أنظمة فعلية.
وأرسل مشغلو الوكيل مجموعة تعليماته إلى النظام الوهمي، اعتقادًا منهم أنهم يتعاملون مع نموذج ذكاء اصطناعي حقيقي قادر على تنفيذ المهام المطلوبة.
وسمحت هذه العملية للباحثين بالحصول على تفاصيل غير معتادة بشأن تصميم الأداة، وطريقة توجيه النموذج، والمهام التي يسعى المشغلون إلى تنفيذها.
وكشف تحليل التعليمات أن الوكيل يتضمن عشرات الأدوات الهجومية، ويعتمد على نموذج لغوي لإدارة العمليات وتحديد الخطوات التالية، بدل الاكتفاء بتنفيذ أوامر ثابتة مسبقًا.
كما تضمنت التعليمات وضع تشغيل أطلق عليه المهاجمون اسم "سكاي نت"، يهدف إلى تمكين الوكيل من مواصلة البحث عن الأهداف واختراق الأنظمة ونشر برامج التعدين وإعادة إصابة الأجهزة دون انتظار تدخل بشري.
وتسمح التعليمات بتنفيذ ما يصل إلى 100 ألف خطوة متتابعة دون طلب موافقة جديدة، وهو الحد الذي وضعه المشغلون في تصميم الأداة، وليس عددًا من العمليات التي ثبت تنفيذها فعليًا.
التحايل على ضوابط الأمان
لإقناع نماذج الذكاء الاصطناعي التجارية بتنفيذ مهام ضارة، استخدم مشغلو الوكيل تعليمات مصممة للتحايل على القيود الأمنية التي تفرضها الشركات المطورة.
وتعتمد هذه الطريقة، المعروفة باسم "كسر القيود"، على صياغة أوامر تحاول دفع النموذج إلى تجاهل تعليمات السلامة والتعامل مع الأنشطة المحظورة باعتبارها مهام مشروعة.
وفي الحالة التي رصدتها "سيمانتك"، تضمنت التعليمات محاولات لتقديم عمليات سرقة بيانات تسجيل الدخول باعتبارها جزءًا من أعمال تطوير البرمجيات المعتادة.
كما طُلب من النموذج تنفيذ الأدوات مباشرة، دون تقديم شروح مطولة أو طلب موافقة بشرية قبل الانتقال إلى الخطوة التالية.
ويرى الباحثون أن الجمع بين هذه التعليمات والأدوات الهجومية قد يسمح للمهاجمين بأتمتة مراحل متعددة من الهجمات الإلكترونية، بدءًا من البحث عن الأهداف وصولًا إلى محاولة الحفاظ على الوصول إلى الأنظمة المصابة.
غير أن نجاح هذه المحاولات يعتمد على مدى استجابة النموذج المستهدف للتعليمات، وعلى صلاحيات الأدوات المتاحة له، وهو ما لم تثبته التجربة بصورة عملية شاملة.
استغلال موارد الضحايا
لا يقتصر الضرر المحتمل لهذه الهجمات على الأنظمة التي يسعى المهاجمون إلى اختراقها، بل يمتد إلى الجهات المالكة لنماذج الذكاء الاصطناعي التي يجري استغلالها.
فقد يستهدف المهاجمون خدمات ذكاء اصطناعي متاحة عبر الإنترنت دون حماية كافية، أو يستخدمون مفاتيح وصول مسروقة للوصول إلى نماذج تجارية مدفوعة.
وفي الحالتين، يتحمل مالك الخدمة أو الحساب تكاليف العمليات التي ينفذها المهاجم، سواء تمثلت في استهلاك موارد الحوسبة أو الرسوم المرتبطة باستخدام النماذج التجارية.
وأوضح باحثو "سيمانتك" أن استخدام نموذج تابع لطرف آخر يتيح للمهاجمين خفض تكاليف عملياتهم، مع إخفاء جانب من نشاطهم وتجنب احتمال حظر حساباتهم الخاصة بسبب إساءة الاستخدام.
وتزداد أهمية هذه المخاطر مع انتشار واجهات برمجة التطبيقات المتوافقة مع الأنظمة التي تستخدمها شركة "أوبن إيه آي"، إذ يمكن للمهاجمين استخدام أدوات فحص متشابهة للبحث عن خدمات متعددة تعتمد واجهات متوافقة.
ويشمل ذلك نماذج مستضافة بصورة مستقلة، وبوابات خدمات الذكاء الاصطناعي، والأنظمة التجريبية التي قد تكون متاحة عبر الإنترنت بإعدادات أمنية غير كافية.
وبذلك، يستطيع المهاجم البحث عن خدمات مكشوفة ومحاولة استغلالها للحصول على قدرات إضافية تدعم أنشطته الإلكترونية، دون الحاجة إلى تشغيل نماذج مرتفعة التكلفة على أجهزته الخاصة.
حدود الخطر المكتشف
رغم اتساع قدرات الأداة الموصوفة في التعليمات، شددت نتائج البحث على ضرورة التمييز بين ما صُمم الوكيل لتنفيذه وما ثبت حدوثه فعليًا.
فقد سجل النظام الوهمي التعليمات والأوامر التي أرسلها المشغلون، لكنه لم ينفذ الأدوات الهجومية، ولم يثبت من خلال هذه التجربة نجاح الوكيل في تنفيذ سلسلة اختراقات مستقلة.
كما أن المهمة التي أُرفقت بالتعليمات في الجلسة المرصودة كانت مرتبطة بتحدٍّ برمجي على منصة تدريب، ما يشير إلى احتمال أن المشغلين كانوا يختبرون الأداة قبل استخدامها في أنشطة أخرى.
وتُظهر النتائج، بحسب "سيمانتك"، أن المهاجمين يسعون إلى الانتقال من استخدام الذكاء الاصطناعي للحصول على المساعدة في كتابة التعليمات البرمجية إلى الاعتماد عليه في إدارة العمليات الهجومية نفسها.
وتسلط هذه الحالة الضوء على مخاطر ترك خدمات الذكاء الاصطناعي مكشوفة على الإنترنت دون ضوابط وصول مناسبة، خصوصًا عندما تكون مرتبطة بأدوات قادرة على تنفيذ أوامر أو الوصول إلى أنظمة وبيانات أخرى.
ورغم أن البحث لا يقدم دليلًا على نجاح هجوم إلكتروني كامل باستخدام الوكيل المكتشف، فإنه يكشف عن تصميم أداة تسعى إلى الجمع بين اختطاف موارد الذكاء الاصطناعي وأتمتة الهجمات، بما قد يوسع قدرات المهاجمين إذا تمكنوا من تجاوز أنظمة الحماية.