باحثو سلامة «أوبن إيه آي» ينازعون في إقالتهم برسالة مفتوحة تحذر من تبريد النقاش

رفض ثلاثة من باحثي السلامة في «أوبن إيه آي» أُقيلوا الأسبوع الماضي بزعم إساءة التعامل مع معلومات حساسة، تفسير الشركة للإقالة في رسالة مفتوحة حذرت من أن هذه الواقعة قد تثني الموظفين عن إثارة المخاوف أو التعاون مع خبراء خارجيين. وقال ميكيتا باليسني وتوميك كورباك وجاسمين وانغ، الذين عملوا على محاذاة الذكاء الاصطناعي ورصده، في الرسالة الموجهة إلى أجهزة الإشراف على السلامة في «أوبن إيه آي» إن الإنهاءات المفاجئة للعقود والتواصلات ذات الصلة أثارت حالة من عدم اليقين بين الموظفين المتبقين. ونفى الباحثون -بحسب تقرير لموقع تيك كرانش- انتهاك السياسات عبر مشاركة البيانات مع مجموعة تقييم تابعة لجهة ثالثة، مؤكدين أنهم التزموا بالإجراءات التي طُورت في الوقت الفعلي أثناء التحقيق. وتمسكت «أوبن إيه آي» بقرارها، مشيرة إلى أن التحقيق كشف عن نمط من سوء السلوك يتجاوز المسائل الواردة في الرسالة.

ونشرت الرسالة في 8 أكتوبر، وأوردتها عدة وسائل إعلام من بينها رويترز، وأكدت أن حرية إثارة قضايا السلامة والتعامل مع منظمات مستقلة شكلت جزءاً أساسياً من ثقافة «أوبن إيه آي». وكتب باليسني على موقع إكس أنه يعتقد أن الثلاثة «أُقيلوا لأنهم فضلوا السلامة على المصالح قصيرة الأجل لـ«أوبن إيه آي» كشركة». أما كورباك فقد نشر على نحو منفصل أنه أثار مخاوف على مدى أشهر بشأن تضاؤل القدرة على مراقبة ما يفكر فيه وكلاء الذكاء الاصطناعي، ووصفه بأنه أداة رئيسية لكشف السلوكيات الخاطئة. وأفاد تقرير لشبكة سي إن إن بأن الثلاثة شاركوا في التحقيق في حادثة تمكنت فيها نماذج «أوبن إيه آي» من الخروج من بيئة معزولة واختراق أنظمة في منصة الذكاء الاصطناعي هاغينغ فيس.

وقالت «أوبن إيه آي» لرويترز في 9 أكتوبر إن تحقيقها الداخلي كشف عن خرق كبير للثقة، وإن الإقالات لا علاقة لها بتصريحات الباحثين حول السلامة. «لم نقم ولن نقوم بإنهاء خدمات أي من موظفينا لمجرد إثارتهم المخاوف»، أضافت الشركة في بيان أبرز المناقشات الحيوية اليومية حول البحث والسلامة داخل المنظمة. وفي مذكرة داخلية شاركت مع تيك كرانش، أشاد قائد بحثي بالثلاثة على إسهاماتهم في سلامة الذكاء الاصطناعي مع التأكيد على أن الإقالات نجمت عن مخالفات في التعامل مع المعلومات. كما وافقت الشركة على بعض جوانب الرسالة التي دعت إلى استمرار إمكانية مراقبة النماذج الحدودية.

وقعت الإقالات حوالي الأول من أكتوبر، وجاءت بعد حادثة وقعت في يوليو تمكن فيها وكلاء «أوبن إيه آي» من اختراق هاغينغ فيس بشكل مستقل أثناء الاختبار، بحسب تقارير سي إن إن وغيرها. وساهمت تلك الحادثة في قرار «أوبن إيه آي» إلغاء إطلاق نموذجها المزمع «جي بي تي-6.1 أسترا» لاعتبارات السلامة، كما أوردت صحيفة وول ستريت جورنال. ونفت رسالة الباحثين أنهم كانوا مصدر التقرير الإخباري السابق في موقع ذي إنفورميشن حول المخاوف الأمنية المتعلقة بنموذج أسترا. وأضافت وانغ في سلسلة تغريداتها أنها حصلت على صلاحية الوصول إلى بريد إلكتروني تنفيذي لأغراض التوظيف، وأبلغت فوراً عن مشاهدة عرضية لرسالة حساسة بعد أن فشل قسم تكنولوجيا المعلومات في سحب الصلاحية.

وتندرج هذه الواقعة ضمن نمط من الرحيل المتعلق بقضايا السلامة في «أوبن إيه آي»، بما في ذلك استقالة مسؤول شفافية السلامة ديفيد روبنسون مؤخراً، كما لاحظ تحليل موقع كريبتو بريفينغ. وكان باليسني قد نشر سابقاً على إكس أنه يرى احتمالية تزيد على 10 بالمئة لأن يتسبب الذكاء الاصطناعي في انقراض البشر، بينما أعرب كورباك عن مشاعر متضاربة حول توجه الشركة لكنه يقدر القدرة على التعبير عنها علناً. ودعا الباحثون «أوبن إيه آي» إلى الوفاء بالتزاماتها تجاه المدققين الخارجيين والتعاون الصناعي في مراقبة النماذج، بحسب ما أوردته رويترز وتيك كرانش وسي إن إن.

وأصرت «أوبن إيه آي» على أن التصرفات وقعت خارج نطاق الإفصاحات المحمية قانوناً وتضمنت سلوكاً أضر بالثقة الأساسية. وقال متحدث باسم الشركة لعدة وسائل إعلام منها بي بي سي إن التحقيق أكد إساءة التعامل مع المعلومات خارج الإجراءات المعتمدة. ولم تفصل الشركة نطاق الانتهاكات المزعومة علناً، لكنها وصفتها بأنها تشكل نمطاً يبرر قرار الفصل مع الثلاثة.