تتصدر الأسلحة ذاتية التشغيل القادرة على استهداف البشر النقاشات في جنيف هذا الأسبوع، حيث تجتمع الدول في مقر الأمم المتحدة حتى الجمعة للبت في ما إذا كانت ستبدأ مفاوضات لوضع ضوابط تنظم استخدامها، فيما يحذر خبير في مقابلة مع وكالة "فرانس برس" من مخاطر هذه "الروبوتات القاتلة" التي "تختزل الإنسان إلى مجرد بيانات".
ويشدد رئيس وحدة الأسلحة وسير العمليات القتالية في اللجنة الدولية للصليب الأحمر، لوران جيزيل، على ضرورة الإسراع في وضع قواعد ملزمة قبل نشر أسلحة يصعب التنبؤ بأدائها أو التحكم بها في ساحات المعارك.
ويقول: "غالبا ما يربط النقاش بشأن الأسلحة ذاتية التشغيل بالطائرات المسيرة، لكن هذه التكنولوجيا يمكن دمجها في أي نوع من الأسلحة، كالصواريخ والقنابل".
وليست فكرة السلاح القادر على الرد من دون تدخل بشري جديدة، ولكن التطور المتسارع في قدرات هذه الأسلحة واستخداماتها بفضل التقدم في مجال الذكاء الاصطناعي يدفع دولا للمطالبة ببدء مفاوضات لوضع إطار قانوني ينظم استخدامها.
ويوضح جيزيل أن بعض هذه الأسلحة ذاتية التشغيل "موجود منذ عقود".
ومن أبرز الأمثلة على ذلك أنظمة الدفاع المضادة للصواريخ المثبتة على السفن الحربية، والقادرة على رصد التهديدات وإطلاق رد تلقائي عليها. ويوضح جيزيل أنه عند مواجهة صاروخ يقترب بسرعة فائقة "يشرف العسكريون على عمل النظام، لكن لا يتطلب الأمر موافقتهم على كل ضربة".
ويرى الخبير أن مخاطر هذه الأنظمة على المدنيين تظل محدودة في هذه الحالة تحديدا، أي في عرض البحر وفي ظل صواريخ يمكن معرفة بصمتها التقنية.
"الذخائر المتنقلة"
ويوضح أن الألغام المضادة للأفراد تعد شكلا قديما من الأسلحة ذاتية التشغيل، وقد حظرت تحديدا بسبب طبيعتها العشوائية، إذ لا تميز بين المدنيين والمقاتلين.
فبمجرد زرعها تنفجر الألغام عند مرور أي شخص، من دون أن يتمكن زارعها من معرفة ما إذا كان هذا الشخص مقاتلا أم مدنيا، وتطرح التطورات التكنولوجية مخاطر جديدة.
على صلة
الذكاء الاصطناعي في حرب الإبادة: تفاقم القتل والدمار
ويقول جيزيل: "ما يثير قلقنا هي التطورات التي نشهدها اليوم في ساحات المعارك"، مشيرا إلى تزايد تطوير أسلحة هجومية قادرة على "البحث عن أهداف وتعقبها".
ويشير كمثال إلى الذخائر الجوالة، كتلك القادرة على البحث عن رادار للعدو ثم الانقضاض عليه لتدميره. ويوضح أنه نظرا إلى قدرة هذه الذخائر على العمل مستقلة، فهناك خطر من انفجارها على رادار موجود في منشأة يستخدمها المدنيون أيضا.
وذلك مع العلم أن القانون الدولي الإنساني، المستند إلى اتفاقيات جنيف والذي تعتبر اللجنة الدولية للصليب الأحمر حامية له، يشترط على أطراف النزاع التمييز بين المدنيين والمقاتلين، وبين الأهداف العسكرية والأعيان المدنية.
الآلة تحسم المصير
ورغم كل ما سبق، لا تدعو اللجنة الدولية للصليب الأحمر إلى حظر كل الأسلحة التي تتضمن نوعا من التشغيل الآلي، بل إلى حظر الأسلحة التي يتعذر التنبؤ بأدائها، وتلك المصممة لاستهداف البشر.
ويرى جيزيل أن الأسلحة المصممة لاستهداف البشر تطرح إشكالية أخلاقية إضافية، تتعلق بكيفية تمييزها للأشخاص واتخاذها قرار استهدافهم.
على صلة
الإبادة الرقمية: كيف حوّل الاحتلال الذكاء الاصطناعي إلى أداة قتل جماعي في غزة؟
ويقول إن: "هذه الأسلحة تختزل الإنسان إلى مجرد بيانات تلتقطها أجهزة استشعار وتحللها خوارزميات، لتكون الآلة في النهاية هي من يقرر من يعيش ومن يموت".
ويلفت الخبير أيضا إلى المخاطر الناجمة عن تطور الأوضاع الميدانية خلال المعارك، إذ قد يستسلم أحد المقاتلين أو يصاب بين لحظة تفعيل السلاح ذاتي التشغيل ولحظة إطلاقه النار؛ وفي هذه الحالة يصبح المقاتل شخصا "خارج القتال"، أي يتمتع بحماية القانون الدولي الإنساني الذي يحظر استهدافه.
غير أن السلاح ذاتي التشغيل قد لا يكون قادرا بالضرورة على رصد هذا التغيير والتعامل معه، بحسب اللجنة الدولية للصليب الأحمر.
ويحذر جيزيل أيضا من احتمال استخدام هذه الأسلحة خارج النزاعات المسلحة، سواء من جانب دول "لتشديد قبضتها الأمنية على سكانها"، أو من جانب جماعات إرهابية.
ويلفت أيضا إلى أن أنظمة برمجية مستقلة تعمل بالذكاء الاصطناعي أظهرت في بيئات اختبار سلوكيات غير متوقعة، وخرجت عن الضوابط التي وضعها مبتكروها.
ويقول: "تخيلوا إذن حجم الخطر عندما تدمج أنظمة ذكاء اصطناعي يصعب التنبؤ بها في منظومة أسلحة!".
اقرأ/ي أيضًا | تحليل: هل تستطيع واشنطن وبكين وموسكو منع الذكاء الاصطناعي من بدء حرب نووية؟
"آلة تقرر من يعيش ومن يموت": تحذيرات من الأسلحة ذاتية التشغيل ودعوات إلى حظر بعضها
تتصدر الأسلحة ذاتية التشغيل القادرة على استهداف البشر النقاشات في جنيف هذا الأسبوع، حيث تجتمع الدول في مقر الأمم المتحدة حتى الجمعة للبت في ما إذا كانت ستبدأ مفاوضات لوضع ضوابط تنظم استخدامها، فيما يحذر خبير في مقابلة مع وكالة "فرانس برس" من مخاطر هذه "الروبوت
