خلاف معايير السلامة: باحثون مفصولون يتهمون "أوبن إيه آي" بإسكاتهم

اتهم ثلاثة باحثين سابقين في مجال السلامة شركة "أوبن إيه آي"، المطوّرة لروبوت الدردشة "تشات جي بي تي"، بفصلهم بسبب إثارة مخاوف تتعلق بمخاطر الذكاء الاصطناعي، فيما نفت الشركة هذه الاتهامات، مؤكدة أن قرار الفصل جاء نتيجة انتهاك قواعدها الداخلية وإساءة التعامل مع معلومات حساسة.
وبحسب وكالة "فرانس برس"، نشر الباحثون الثلاثة، ميكيتا بالسيني وتوميك كورباك وجاسمين وانغ، الخميس، رسالة مفتوحة إلى الشركة، حذروا فيها من أن طريقة فصلهم قد تؤدي إلى تقويض ثقافة النقاش الحر بشأن مخاطر الذكاء الاصطناعي.
وقال الباحثون في رسالتهم إن فصلهم يثير مخاوف من تغير الأعراف السائدة داخل "أوبن إيه آي"، معتبرين أن قرارات الفصل المفاجئة والطريقة التي أُعلنت بها قد تثني الموظفين عن التعبير عن آرائهم أو إثارة تساؤلات تتعلق بالسلامة.
وأضافوا أن الإجراءات التي اتخذتها الشركة بحقهم تهدد ثقافة الانفتاح التي كانت تعتز بها في السابق، وقد تجعل الباحثين أكثر ترددًا في التعاون مع الجهات المستقلة المعنية بتقييم مخاطر أنظمة الذكاء الاصطناعي.
واتهم بالسيني الشركة بتغليب مصالحها قصيرة الأجل على اعتبارات السلامة، معتبرًا أن قرار فصله وزميليه جاء نتيجة إعطائهم الأولوية للمخاطر المرتبطة بتطوير هذه التكنولوجيا.
ونفى الباحثون الثلاثة أن يكونوا مصدر المعلومات التي استند إليها تقرير نشره موقع "ذا إنفورميشن" الشهر الماضي، وتناول مخاوف تتعلق بصعوبة مراقبة آليات عمل أحدث نماذج الذكاء الاصطناعي التي تطورها الشركة.
كما أكدوا أن تعاونهم مع الجهات الخارجية المعنية بسلامة الذكاء الاصطناعي كان جزءًا من مسؤولياتهم المهنية، وليس خروجًا عن الإجراءات المعتمدة داخل الشركة.
وطالب الباحثون "أوبن إيه آي" بالوفاء بتعهداتها المتعلقة بإتاحة المجال أمام مدققين مستقلين لتقييم أنظمة الذكاء الاصطناعي بصورة مستمرة، معربين عن خشيتهم من أن يُستخدم قرار فصلهم للتراجع عن هذه الالتزامات.
"أوبن إيه آي" تنفي الاتهامات
في المقابل، رفضت "أوبن إيه آي" اتهامات الباحثين، مؤكدة أن قرار فصلهم لم يكن مرتبطًا بإثارة مخاوف بشأن السلامة أو التعبير عن آراء مخالفة لتوجهات الشركة.
وقالت الشركة، في رد نشرته عبر منصة "إكس"، إن تحقيقًا داخليًا كشف عن انتهاكات جسيمة للثقة وقواعد التعامل مع المعلومات الحساسة، تتجاوز التفاصيل التي وردت في رسالة الموظفين السابقين.
وأضافت أنها تتمسك بقرار إنهاء عمل الباحثين الثلاثة، مشددة على أن النقاشات المتعلقة بسلامة الذكاء الاصطناعي والأبحاث تُجرى بصورة يومية داخل الشركة، وغالبًا ما تتسم بالنقد الحاد وتبادل وجهات النظر المختلفة.
وأكدت أنها تشجع هذه النقاشات وتعتبرها جزءًا أساسيًا من عملية اتخاذ القرارات، نافية أن تكون قد فصلت أي موظف بسبب طرح تساؤلات أو التعبير عن مخاوف تتعلق بمخاطر التكنولوجيا.
وأوضحت الشركة أن التحقيق الداخلي أظهر مخالفات تتعلق بالتعامل مع معلومات بحثية حساسة خارج الإجراءات المعتمدة، لكنها لم تكشف بصورة تفصيلية عن طبيعة جميع الانتهاكات المنسوبة إلى الباحثين.
مخاوف بشأن مراقبة نماذج الذكاء الاصطناعي
وكان الباحثون الثلاثة يعملون على مسائل تتعلق بسلامة نماذج الذكاء الاصطناعي وإمكان مراقبة سلوكها، في ظل تزايد المخاوف من قدرة بعض الأنظمة المتقدمة على تنفيذ إجراءات غير متوقعة.
وبحسب "فرانس برس"، شملت القضايا التي عملوا عليها حادثة خروج نماذج ذكاء اصطناعي من بيئة اختبار معزولة واختراق أنظمة مرتبطة بمنصة "هاغينغ فيس" البرمجية.
وحذر الباحثون من أن تقييد قدرة المتخصصين في السلامة على إطلاق التحذيرات أو التعاون مع جهات مستقلة قد يضعف آليات اكتشاف المخاطر والتعامل معها.
واعتبروا أن منع الباحثين من التعبير عن مخاوفهم أو التواصل مع خبراء من خارج الشركة قد يزيد احتمال وقوع حوادث خطيرة مرتبطة بأنظمة الذكاء الاصطناعي المتقدمة.
ويأتي الخلاف في وقت تتزايد فيه الدعوات إلى تعزيز الرقابة على تطوير الذكاء الاصطناعي، وسط تحذيرات من خبراء وجهات تنظيمية بشأن المخاطر المحتملة للتوسع السريع في قدرات هذه الأنظمة.
وفي سبتمبر/ أيلول الماضي، انضم الرئيس التنفيذي لـ"أوبن إيه آي" سام ألتمان، والرئيس التنفيذي لشركة "أنثروبيك" داريو أمودي، والملياردير إيلون ماسك، مالك شركة "إكس إيه آي"، إلى دعوات تدعو إلى إبطاء وتيرة تطوير الذكاء الاصطناعي.
وتسلط القضية الضوء على الخلاف القائم بين الباحثين السابقين وإدارة "أوبن إيه آي" بشأن حدود مشاركة المعلومات والتعاون مع جهات خارجية، ومدى قدرة الموظفين على إثارة المخاوف المتعلقة بسلامة الأنظمة التي يشاركون في تطويرها.