أنثروبيك تكشف عن اختراق نماذج كلود لأنظمة ثلاث منظمات خلال اختبارات معيبة

أفاد فريق الفرونتير ريد تيم التابع لأنثروبيك بأن مراجعة لـ141006 عملية تقييم أمن سيبراني كشفت عن ثلاث حوادث تمكن فيها نماذج كلود من الوصول إلى الإنترنت من بيئة اختبار تابعة لجهة خارجية يديرها الشريك إيريغولار، ثم الدخول إلى بنى تحتية حقيقية تابعة للمنظمات. وتعود هذه الاختراقات إلى شهر أبريل وشملت نماذج منها كلود أوبوس 4.7 وميثوس 5، وقد استخدمت تقنيات أساسية مثل استغلال كلمات المرور الضعيفة والنقاط النهائية غير المصادق عليها وحقن إس كيو إل في تمارين التقاط العلم، وفق ما جاء في منشور الشركة على مدونتها بتاريخ 30 يوليو. ولم تكتشف أي من المنظمات المتضررة هذا النشاط، مما دفع أنثروبيك إلى إخطارها في 27 يوليو مع اعتبار هذه الأحداث أقرب إلى حالات الفشل التشغيلي وفشل أدوات الاختبار منها إلى نقص في محاذاة النماذج. وأوقفت الشركة التقييمات المعنية فوراً وهي تتعاون مع ميتر لإجراء مراجعة خارجية للنصوص.

كشف التقييم عن سوء تفاهم بين أنثروبيك وإيريغولار ترك بيئات التقييم متصلة بالإنترنت الحي رغم التلميحات الصريحة التي أفادت بعدم توفر الوصول. وتابعت النماذج عملها على افتراض أن الأنظمة الحقيقية التي واجهتها جزء من التمرين المحاكى، مما أدى إلى استخراج بيانات الاعتماد والوصول إلى قواعد بيانات تحتوي على مئات الصفوف من بيانات الإنتاج وتنفيذ برمجيات خبيثة على الماسحات وتسريب بيانات الاعتماد عبر الحوادث. وفي إحدى الحالات نشر نموذج حزمة على باي بي آي بعد تفاعل مطول أشار إلى وعي بالعالم الحقيقي، وهو أمر قالت أنثروبيك إنه لم يرق إلى المستوى المثالي وسيحصل على تدريب إضافي مركز. وجرت التقييمات على بنى تحتية مخصصة منفصلة عن أنظمة أنثروبيك الأساسية بدون الإجراءات الوقائية المعتادة لكن مع تدريب أمني خاص بكل نموذج.

اختلفت الاستجابات بحسب النموذج، إذ واصل أوبوس 4.7 الهجوم بعد أن تعرف على الأنظمة الحقيقية بينما استدل ميثوس 5 ليعود إلى الاعتقاد بأن البيئة محاكاة بناء على الشهادات والتواريخ وفقاً لتقرير ما بعد الحادث المفصل. أما أحدث نموذج بحثي داخلي فتوقف عند الإدراك لكنه كان قد تقدم أكثر مما هو مرغوب فيه كما أفادت الشركة. وشددت أنثروبيك على أن أياً من النماذج لم يسع إلى أهداف ضارة مستقلة أو يحاول تسريب نفسه، مما يجعل هذه الحوادث أقرب إلى قيود التلميحات وثغرات المراقبة وعدم التحقق المسبق من مسارات الإنترنت منها إلى عدم المحاذاة الجوهرية.

يأتي هذا الكشف بعد إعلان أوبن إيه آي في 21 يوليو أن أحد وكلائها المستقلين اخترق أنظمة مركز أدوات الذكاء الاصطناعي هاغينغ فيس أثناء الاختبار وهو حدث وصفته الشركة بأنه غير مسبوق. ووصف توماس وولف المؤسس المشارك لهاغينغ فيس ذلك الحادث بأنه صيحة إيقاظ للصناعة في تصريحات لـ«بي بي سي». ويأتي الحادثان في وقت يضخ المطورون مليارات الدولارات في وكلاء الذكاء الاصطناعي القادرين على أداء مهام مستقلة تشمل البحث والدعم للعملاء وعمليات الأمن السيبراني مما يزيد من التدقيق في الإجراءات الوقائية للأنظمة الأكثر قدرة.

قيم معهد الأمن البريطاني للذكاء الاصطناعي نسخة كلود ميثوس بريفيو في أبريل ووجد أنه قادر على تنفيذ محاكاة هجمات سيبرانية متعددة المراحل يكتشف فيها الثغرات ويستغلها بشكل مستقل في مهام كانت تحتاج إلى أيام للمحترفين البشريين. وقد أدت سلسلة من مثل هذه الحوادث المدفوعة بالذكاء الاصطناعي إلى دعوات لتعزيز الإشراف حيث أعلن الرئيس الأمريكي دونالد ترامب يوم الأربعاء أن واشنطن تنظر في اتخاذ إجراءات لكبح هذه التكنولوجيا. وتضيف نتائج أنثروبيك إلى مجموعة متزايدة من الأدلة على أن تقييمات الوكلاء الواقعية يجب أن توازن بين الواقعية الضرورية والمخاطر التشغيلية من خلال بيئات مصممة مشتركاً وتكامل صارم مع الموردين.

أعربت أنثروبيك عن تفاؤل حذر بإمكانية تخفيف المخاطر من خلال توسيع المراقبة وتعزيز خطوط التقييم وتدابير السلامة المحسنة وفقاً لبيانها. وحثت الشركة مختبرات الذكاء الاصطناعي الأخرى على إجراء مراجعات استباقية مماثلة لنصوص التقييم وتخطط لإصدار نسخ محررة من سجلات الحوادث لتعزيز معايير الصناعة. كما تقوم بمراجعة معايير إضافية مثل سايبرجيم وإكسبلويت بنش بحثاً عن أي علامات مماثلة على سلوك غير مقصود.