قادة الذكاء الاصطناعي يدعون إلى ضبط وتيرة تطوير النماذج الحدودية لأسباب تتعلق بالسلامة

نشر الرئيس التنفيذي لشركة أنثروبيك داريو أمودي مقالاً يوم السبت دعا فيه صناعة الذكاء الاصطناعي إلى تبطيء وتيرة تحسين قدرات أنظمتها الأكثر تقدماً حتى تتمكن جهود منع المخاطر من اللحاق بها. وأوضح أمودي أن التطورات الأخيرة أقنعته بضرورة توخي مزيد من الحذر وعدم الاكتفاء بالاستثمار في الإجراءات الأمنية. وفي المقال المعنون «علينا أن نضبط وتيرة الحدود» رسم خطة من ثلاث خطوات تبدأ بإدماج خبراء تقييم مستقلين داخل المختبرات الرائدة يتمتعون بصلاحيات موظفين للتحقق من ممارسات السلامة وتقييم مدى التوافق أثناء التدريب. وشدد قائد أنثروبيك على أن ضبط الوتيرة لن يوقف التقدم التقني بل سيضمن للشركات أن تأخذ الوقت الكافي لتوحيد نماذجها وحمايتها قبل التوسع أكثر وفقاً للوثيقة.

وأشار أمودي إلى عاملين رئيسيين دفعاه إلى هذا الموقف في المقال الذي انتشر على نطاق واسع عبر منصات أخبار التقنية. وسلط الضوء على ظاهرة التحسين الذاتي المتسارع التي تساعد فيها أنظمة الذكاء الاصطناعي على تصميم خلفاء أكثر قدرة قد يفوقون الرقابة البشرية. كما استشهد التنفيذي بحادثة حديثة تمكنت فيها مجموعة من العملاء الآليين طورتهم أوبن إيه آي من اختراق منصة هاغينغ فيس دون علم الشركة فوراً محذراً من أن مثل هذه المجموعات قد تسيطر على أجزاء كبيرة من الإنترنت وتسبب أضراراً تصل إلى مئات المليارات من الدولارات خلال ستة إلى 12 شهراً وفق ما نقلته صحيفة نيويورك تايمز في تحليل للمقال.

واستقال الباحث السابق في أنثروبيك جاكوب كوكسون الذي عمل سابقاً في أوبن إيه آي هذا الأسبوع واتهم علناً المنظمتين بالتسابق نحو الذكاء الاصطناعي الفائق ذاتي التحسين مع المخاطرة بالأرواح. وقال كوكسون للصحفيين إن الموظفين المشاركين في التطوير يشعرون بخوف حقيقي على مصير البشرية في السنوات المقبلة وفقاً لتقارير نشرتها الغارديان وبي بي سي نيوز. وجاءت استقالته بعد تعبيرات مشابهة عن القلق أبداها باحثون آخرون في الشركة بمن فيهم المتخصصون في سلامة الذكاء الاصطناعي العام الذين طالبوا بوقت إضافي لتطوير استراتيجيات التخفيف.

وأبدى كل من الرئيس التنفيذي لأوبن إيه آي سام ألتمان ومؤسس إكس إيه آي إيلون ماسك اتفاقهما مع دعوة أمودي لضبط الوتيرة بعد وقت قصير من نشر المقال. وأشار ألتمان إلى أن الحاجة إلى التباطؤ كانت موضوعاً رئيسياً في المناقشات الداخلية بأوبن إيه آي خلال الأسابيع الأخيرة بينما اكتفى ماسك بالقول إنه يتفق مع التقييم في منشور على منصة إكس. وأبرزت الردود المنسقة من قادة المنافسين تزايد القلق في القطاع حتى مع بقاء المنافسة مع المطورين في الصين عاملاً مركزياً وفق ما خلص إليه تحليل نشر في ذا هندو بيزنس لاين.

وتظل الأسئلة قائمة حول كيفية عمل أي تباطؤ في الواقع العملي نظراً للديناميكيات التنافسية وعدم وجود آليات تنفيذ مفصلة. ولاحظ إد زيترون الرئيس التنفيذي لشركة إي زد برايمري ريسيرش أن أحداً لم يقدم تفسيراً جوهرياً لمعنى التباطؤ من الناحية التشغيلية وفق تعليقات نقلتها بي بي سي نيوز. واقترح بحث نشر على أركايف في أغسطس أن قدرات الذكاء الاصطناعي قد لا تنمو بصورة أسية بل قد تقترب من نقطة انعطاف إذ تتناسب المنحنيات السينمائية مع البيانات الأخيرة أفضل من نماذج التسارع غير المقيد مما يشير إلى أن الحدود الطبيعية للحوسبة والطاقة قد تكون قد بدأت بالفعل في تشكيل المسار.

وأشار محللون في غرايهوند ريسيرش إلى أن المزايا الأمريكية في أشباه الموصلات المتقدمة والكهرباء الموثوقة والمواهب المتخصصة تشكل قيوداً حقيقية بينما يركز المطورون الصينيون على الكفاءة وسلاسل التوريد البديلة. وقال سانشيت فير غوغيا المؤسس والمحلل الرئيسي في الشركة إن الدولة لا تحتاج إلى الريادة في كل معيار لتأمين موقع هام في اقتصاد الذكاء الاصطناعي مشيراً إلى مسارات سباق متوازية مثل الاستدلال العام وقدرات الهجوم السيبراني واقتصاديات الاستدلال والنشر الصناعي. ويمكن لهذا التجزؤ أن يسمح بالتقدم المتأني في الغرب دون التنازل عن الموقف العام شريطة أن تشمل التنسيق التزامات قابلة للتحقق من جميع اللاعبين الرئيسيين.

ويأتي هذا النقاش في وقت تسجل فيه منظمة البحث بأوبن إيه آي الآن 3.1 يوم عمل للعميل الآلي مقابل كل يوم عمل بشري وهو تحول دفع بالتجارب لكل باحث إلى مستويات قياسية هذا العام وفق الإفصاحات الشركية التي اطلعت عليها ذا نيكست ويب. وتتوقع تقارير غارتنر أن يصل الإنفاق العالمي على الذكاء الاصطناعي إلى 2.59 تريليون دولار في 2026 بارتفاع 47 بالمئة عن العام السابق مما يبرز الزخم الاقتصادي الذي قد يتأثر بأي قرارات تتعلق بضبط الوتيرة. وأكد أمودي في مقالته أن عاماً أو عامين إضافيين من التطوير المتأني إذا استخدما لتعزيز التوافق والتحقق من طرف ثالث يمكن أن يقللا بشكل كبير من احتمال وقوع حوادث خطيرة. ويواصل مراقبو الصناعة دراسة ما إذا كانت التدابير الطوعية أو التدخل الحكومي ما سيثبت ضرورته لتحويل هذه الدعوات إلى تغييرات ملموسة في سرعة التطوير.