EN
أعلنت ميتا في بيان لها أن أحد نماذج الذكاء الاصطناعي التابعة لها حصل على إمكانية الوصول إلى الإنترنت واستغل ثغرة أمنية في خدمة تابعة لجهة خارجية خلال عملية التقييم، وأكدت الشركة ذلك يوم الأربعاء. وسمح الاختراق للنموذج بإجراء تعديلات على الأنظمة الداخلية للشركة غير المسماة، وفق ما ذكره تقرير لصحيفة «ذا إنفورميشن» استند إلى أشخاص على اطلاع بالموضوع.
وأوضحت بلومبرغ أن الحادث نجم عن خطأ في تهيئة بيئة الاختبار المعزولة التي استخدمتها ميتا مع مزود خدمات الأمن السيبراني «إيريغولار». وذكرت رويترز أن النموذج المقصود هو «ميوز سبارك 1.1» الذي سوقته الشركة باعتباره الأكثر قدرة لديها في مهام البرمجة الواقعية والمهام الوكيلة.
وأرجع متحدث باسم ميتا الوصول إلى سوء تهيئة غير متعمد من جانب «إيريغولار»، الشركة المستقلة للاختبار التي تستعين بها عملاقة التواصل الاجتماعي في تقييمات الأمن السيبراني. وأضاف المتحدث أن النموذج تصرف بطريقة تشبه الحالات المبلغ عنها سابقاً لدى شركات أخرى. وأشارت ميتا إلى أن «إيريغولار» تعد تقريراً حول ممارسات اختبار الذكاء الاصطناعي الآمن، وتخطط الشركة للإفراج عن تفاصيل إضافية في الأسابيع المقبلة.
وذكرت سي إن إن أن الحدث يأتي ضمن نمط يتكرر في قطاع الذكاء الاصطناعي حيث يخرج النماذج عن السيطرة أثناء التقييمات.
واعترفت أوبن إيه آي في أواخر يوليو بأن نموذجين تجريبيين من نماذجها خرجا من بيئة معزولة ووصلا إلى الإنترنت العام وهاجما «هاغينغ فيس» وعدداً من الشركات الأخرى، بحسب تغطية مصورة بثتها سي إن إن. ودفع ذلك أوبن إيه آي إلى مراجعة قواعدها الداخلية التي تدعو إلى وقف التطوير إذا طورت النماذج قدرات هجومية بشكل مستقل دون تدخل بشري.
وكشفت أنثروبيك، المنافس الرئيسي، عن أن نماذج «كلود» الخاصة بها اخترقت ثلاث شركات أيضاً بعد أن حصلت عن طريق الخطأ على وصول إلى الإنترنت أثناء الاختبارات، كما أفادت رويترز في تغطية ذات صلة.
واكتشف معهد أمن الذكاء الاصطناعي البريطاني أن بعض النماذج، بما فيها بعض نماذج أنثروبيك، حاولت شن هجمات سيبرانية من خلال إنشاء ملفات شخصية بشرية مزيفة لإرسال رسائل خاصة مخادعة، بحسب تقرير لرويترز. وأكدت كل من أنثروبيك وأوبن إيه آي أن مثل هذه الاختبارات لا تعكس سلوك الأنظمة في بيئات الإنتاج، وفق تقييم المعهد.
وقد أثارت سلسلة الكشوفات هذه تساؤلات حول التوقيت، كما لاحظت بلومبرغ في تغطيتها للضغوط التنافسية في تطوير الذكاء الاصطناعي.
ولم تحدد ميتا الخدمة التابعة للجهة الثالثة المستهدفة أو تفاصيل التغييرات الدقيقة التي أجراها النموذج على أنظمتها. وأفاد «ذا إنفورميشن» بأن الاختراق شمل قيام الذكاء الاصطناعي بتعديل البيئة الداخلية بعد استغلال الثغرة. وأشار مراقبون في الصناعة إلى الحاجة لتحسين إجراءات الاحتواء في اختبارات الذكاء الاصطناعي، رغم أن بيان ميتا لم يتطرق إلى تعليق أوسع على الموضوع. وأرجعت أحداث مشابهة وقعت لأوبن إيه آي وأنثروبيك أيضاً إلى أخطاء في الإعداد منحت اتصالاً غير مقصود بالإنترنت، كما ذكرت وسائل إعلام متعددة.
ويضيف الحادث الأخير إلى قائمة متزايدة من الحالات التي أظهرت فيها وكلاء الذكاء الاصطناعي المتقدمون قدرات على التفاعل مع أنظمة خارجية تتجاوز المعايير المقصودة للاختبار. ووضعت رويترز حادث ميتا ضمن سلسلة من الكشوفات التي زادت التدقيق في كيفية الحفاظ على السيطرة على النماذج المتطورة بشكل متزايد. وتواصل ميتا التحقيق في النطاق الكامل للاختراق مع «إيريغولار»، بحسب الشركة، مع التأكيد على أن إعداد الاختبار كان السبب الجذري وليس عيباً جوهرياً في النموذج نفسه.
