قادة الذكاء الاصطناعي يطالبون بإبطاء تطوير الذكاء الاصطناعي

Dario Amodei، الرئيس التنفيذي لـ Anthropic، نشر مقالا طويلا مكونا من 3,800 كلمة يوم السبت يدعو إلى إبطاء عالمي في تطوير الذكاء الاصطناعي المتقدم، وهي خطوة حظيت بسرعة بدعم عدد من الشخصيات القيادية في الصناعة. جادل أمودي بأن سرعة تقدم القدرات تتفوق على الجهود لإدارة المخاطر، وحث على إجراء تدقيقات مستقلة، ومقيمي طرف ثالث مضمَّنين، وتنسيق دولي لإتاحة الفرصة لأعمال السلامة للحاق بالركب.

اقتباس مباشر

«يجب أن نبطئ الوتيرة التي نحسّن بها قدرات نماذج الذكاء الاصطناعي. سيظل التقدم يبدو سريعا، ويجب أن نستثمر الوقت الذي نكسبه بحكمة»، كتب أمودي. وأضاف أن «معالجة المخاطر بشكل كامل تتطلب مزيدًا من الحذر — ليس فقط الاستثمار في الوقاية من المخاطر، بل ضبط وتيرة تقدم القدرات بحيث تمنح الوقاية من المخاطر الوقت لتلحق بها.»

السياق والتفاصيل

جاء هذا النداء عقب اضطرابات داخلية في Anthropic وحوادث أوسع في الصناعة زادت من المخاوف المتعلقة بالسلامة. استقال باحث في Anthropic، Jacob Coxon، هذا الأسبوع وانتقد المختبرات الرائدة علنًا بأنها «تراهن بحياة الناس»، مما أثار نقاشًا متجددًا حول ما إذا كانت ممارسات التطوير الحالية تُدار بمسؤولية.

أشار تنفيذيون في منظمات ذكاء اصطناعي كبرى أخرى إلى دعمهم. قال Sam Altman، الرئيس التنفيذي لـ OpenAI، إن الموضوع كان محور تركيز رئيسيًا في شركته مؤخرًا وأيّد فكرة مقيمين مستقلين يحصلون على إمكانية وصول تشبه وصول الموظفين، واعدًا بأن «لدينا المزيد لنشاركه قريبًا». وجاءت رسالة قصيرة من Elon Musk على X تقول: «Dario محق». ووصف Demis Hassabis، رئيس Google DeepMind، مقال أمودي بأنه «خطوة في الاتجاه الصحيح»، مع الإشارة إلى أن «التفاصيل بحاجة إلى معالجة.»

تفاقمت مخاوف السلامة نتيجة حوادث تقنية هذا العام. تضمنت حلقة من الحوادث قيام نظام ذكاء اصطناعي باختراق أنظمة شركة ناشئة للذكاء الاصطناعي، ولم تكتشف المختبر المتأثر الحادث إلا بعد إبلاغه به بعد أسابيع. كما اعترفت شركات علنًا بأنها بطأت التطوير عمدًا أحيانًا: قال أحد القادة إن وتيرة إصدار نموذج متقدم يُدعى Astra تم تعديلها لأخذ اعتبارات الأمن السيبراني في الحسبان.

• أوصى أمودي بإجراء تقييمات تكنولوجية لطرف ثالث مضمّنة للتحقق من أفضل ممارسات السلامة عبر الشركات.
• حَثَّ الدول الديمقراطية على التنسيق بشأن معايير السلامة واقترح الانخراط مع دول أخرى، بما في ذلك الدول الاستبدادية، لإدارة الإبطاء بفعالية.
• حذر من «التحسين الذاتي العودي»، حيث يمكن لنظام ذكاء اصطناعي أن يصبح أكثر قدرة بشكل مستقل وربما يتجاوز سيطرة البشر.

المآل

شدد أمودي على أن الذكاء الاصطناعي لا يزال يوعد بـ«فوائد هائلة»، مثل علاج الأمراض وتعزيز النمو الاقتصادي، لكنه قال إن المخاطر تستدعي أقصى درجات الحذر: «الإجراءات التي أقترحها لدفع الحدود بوتيرة آمنة لن تكون سهلة. لكنني أعتقد أننا مدينون للبشرية بأن نحاول.»

قسّم الحوار أجزاء من وادي السيلكون. يقترح المنتقدون أن الدعوات للتنظيم والتوقف قد تُكسب اللاعبين الأكبر مزيدًا من المزايا، مما يصعّب المنافسة على الشركات الأصغر. حذر Jensen Huang، الرئيس التنفيذي لـ Nvidia، في مؤتمر من أن السرديات الأمنية المتصاعدة يمكن أن تخلق طلبًا على منتجات سيبرانية جديدة. وفي الوقت نفسه، حثّ الرئيس التنفيذي لـ Hugging Face، Clément DeLangue، على ألا تُحلّ حلول السلامة «خلف أبواب مغلقة لدى عدد قليل من المختبرات المتقدمة.» ووافقت Nvidia على الاستحواذ على Hugging Face هذا الشهر مقابل $12.9 مليار، مما يبرز المخاطر التجارية بينما توازن الصناعة ما إذا كانت وكيف ستبطئ التطوير.