باحثو الذكاء الاصطناعي يقدرون احتمال الانقراض بنسبة 10% وسطياً جراء التقدمات المستقبلية

أجرى معهد «AI Impacts» استطلاع خبراء حول التقدم في الذكاء الاصطناعي خلال ديسمبر 2024 ونُشر هذا الشهر، واستهدف باحثين سبق لهم النشر في ست من أبرز المنابر المتخصصة في الذكاء الاصطناعي بنسبة استجابة بلغت 10%. وتشير بيانات «AI Impacts» إلى أن متوسط الاحتمالية التي يعطيها الباحثون لأن يؤدي التقدم المستقبلي في الذكاء الاصطناعي إلى انقراض البشر أو إضعاف دائم وشديد مشابه يبلغ 18%، بينما ارتفع الوسيط إلى 10% بعد أن كان 5% في النسخ السابقة من الاستطلاع. ووجد تقييم المنظمة أن 81% من المشاركين أعطوا مثل هذه النتائج فرصة لا تقل عن 1%، فيما حدد 12% احتمالاً صفرياً، وقدر نحو ثلثهم الاحتمالية بنسبة 20% أو أكثر. وأيد 72% من المستطلعين منح أولوية أعلى للبحوث الرامية إلى تقليل المخاطر المحتملة للذكاء الاصطناعي.

وتظهر أرقام الاستطلاع نفسه أن التوقعات بشأن موعد ظهور الذكاء الآلي عالي المستوى قد تقدمت مقارنة بالجولات السابقة، مع استمرار قدر كبير من الغموض حول العواقب طويلة الأمد. وأشار بحث نشر على arXiv واستند إلى هذه البيانات إلى أن ما بين 38 و51% من المستجيبين أعطوا للذكاء الاصطناعي المتقدم فرصة لا تقل عن 10% لإنتاج نتائج سيئة بقدر انقراض البشر. وأوضح التحليل أنه في حين يرى 68% من المشاركين أن النتائج الإيجابية من الذكاء الاصطناعي الفائق أكثر احتمالاً من السلبية، فإن حصة كبيرة من هؤلاء المتفائلين لا يزالون يقدرون احتمالية النتائج السيئة للغاية بنسبة 5% على الأقل.

وبحسب تقرير لصحيفة «نيويورك تايمز» يعتقد كثير من الباحثين أن السرديات التي تركز على سيناريوهات يوم القيامة على طريقة «إله الآلة» سيطرت على النقاش العام رغم أنها تمثل مجموعة صغيرة نسبياً داخل المجال. وذكرت الصحيفة أن منتقدين مثل تيمنيت غيبرو يرون أن التركيز على المخاطر الوجودية يساهم في تسريع التطوير ويحول الأنظار عن الأضرار الجارية حالياً، بما في ذلك الأسلحة الموجهة بالذكاء الاصطناعي ومساهمة مراكز البيانات في تغير المناخ واستخدام الأتمتة لإزاحة العمال. واقتبس موقع «بيزنس إنسايدر» من عالم الحاسوب غاري ماركوس قوله إن هناك أضراراً خطيرة جداً ينبغي القلق بشأنها لكن لا يوجد سيناريو واقعي يعلمه من شأنه قتل جميع البشر فعلياً.

ووضع تجميع للتقديرات المعلنة علناً من أكثر من 50 باحثاً ومتنبئاً ومنظمة في مجال الذكاء الاصطناعي بين 2020 و2026 جمعته «Calcuja» الاحتمالية الوسطية للكارثة الوجودية الناجمة عن الذكاء الاصطناعي عند نحو 20%. وأظهرت مراجعة «Calcuja» تبايناً واسعاً، إذ يتجمع باحثو تعلم الآلة التقليديون قرب 5% وباحثو السلامة قرب 30%، فيما تتراوح التقديرات الفردية من قرب الصفر عند أشخاص مثل يان ليكون إلى أكثر من 90% عند بعض المنتمين إلى حركة الخير الفعال. وأشارت بيانات «Calcuja» إلى أن قادة صناعة التكنولوجيا يميلون إلى تقديرات وسطية عند نحو 15%.

وذكرت «بي بي سي» أن عالمة اللغويات الحاسوبية ساشا لوكيوني تعتبر بعض مخاطر الذكاء الاصطناعي مهمة لكنها تركز على المشكلات القابلة للقياس مثل انبعاثات الكربون الناتجة عن تدريب النماذج واحتمال تعزيز الأنظمة للتحيزات المجتمعية. ونقلت المحطة عن البروفيسور مارك ريدل من جامعة ألبرتا قوله إن الذكاء الاصطناعي الحالي يفتقر إلى الوكالة أو الأهداف الذاتية التي تجعله يسعى إلى سيناريوهات تتضمن السيطرة أو الانقراض. وأبرز المقال أن مثل هذه الآراء تتعايش مع دعوات من أصوات بارزة أخرى بينها جيفري هينتون ويوشوا بنجيو للتعامل مع مخاطر مستوى الانقراض بنفس الإلحاح الممنوح للأوبئة أو الحرب النووية.

ويجري «AI Impacts» نسخاً من الاستطلاع منذ 2016، وأشارت أحدث نسخة إلى أن ملف المخاطر المتصورة ظل مستقراً نسبياً حتى مع انتقال التكنولوجيا من بحث متخصص إلى تشغيل أكثر الشركات قيمة في العالم. وسجل تقرير المنظمة أن معظم المشاركين يواصلون التعبير عن غموض كبير بشأن الجداول الزمنية للذكاء الاصطناعي وتأثيراته، مع أكثر من نصفهم يعبرون عن قلق متوسط على الأقل إزاء قضايا أقرب الأجل مثل المعلومات المضللة والسيطرة الاستبدادية وعدم المساواة الاقتصادية. وأكد تحليل منفصل على arXiv للردود أن الرأي الوسطي عبر آلاف الباحثين يدعم فرصة لا تقل عن 5% لحدوث أحداث على مستوى الانقراض، ووصف هذا الاكتشاف بأنه قوي عبر صيغ الأسئلة المختلفة.