دعا رئيس شركة أنثروبيك، إحدى الشركات الرائدة في مجال الذكاء الاصطناعي، إلى إبطاء وتيرة تطوير نماذج الذكاء الاصطناعي ومراقبتها عن كثب.
وفي مقال طويل بعنوان «علينا أن نضبط وتيرة الحدود»، قال داريو أمودي إن تطوير الذكاء الاصطناعي ليس محل شك، لكن المخاطر المرتبطة به «جدية»، ويجب منح الشركات والحكومات وقتاً كافياً لمعالجتها.
واقترح خطة من ثلاث نقاط تشمل مراقبة مستقلة لنماذج الذكاء الاصطناعي أثناء تطويرها، وتنظيماً على مستوى القطاع كله، وتنظيماً عالمياً.
وقد تزايدت في الآونة الأخيرة المخاوف من المخاطر المحتملة لهذه التقنية. ومن أخطرها ما أشار إلى وجود احتمال يتجاوز عشرة في المئة أن «تقتل البشر جميعاً» خلال العقد المقبل.
وقد استقال اثنان من موظفي فريق السلامة في أنثروبيك خلال الأسبوعين الماضيين، وقالا إن البشرية قد لا تنجو من سباق شركات الذكاء الاصطناعي لتطوير آلات أذكى من الإنسان.
وأثارت هذه التحذيرات دعوات إلى التحرك، إذ طالب السناتور الأمريكي بيرني ساندرز بوقف تطوير الذكاء الاصطناعي المتقدم، وبحظر الذكاء الاصطناعي الخارق.
أما الرئيس الأمريكي دونالد ترامب فقد رفض حتى الآن هذه المخاوف، وقال يوم الخميس إنه قلق من أنه «إذا لم نفز في مجال الذكاء الاصطناعي، سنكون في موضع سيئ للغاية».
وكانت أنثروبيك قد قالت سابقاً إنها رصدت وأوقفت محاولات لاستخدام نموذجها للذكاء الاصطناعي في «نشاط خبيث» قد يدعم تطوير أسلحة بيولوجية.
وجاء هذا الاكتشاف في تقرير حديث للاستخبارات عن التهديدات، وهو أحدث حلقة في سلسلة تحذيرات من باحثين وخبراء في القطاع بشأن المخاطر المحتملة لهذه التقنية على البشرية.
وفي مقاله، أشار أمودي إلى أن الذكاء الاصطناعي تقدم «بوتيرة أسرع بكثير»، بما في ذلك «قدرته على بناء الجيل التالي من الذكاء الاصطناعي». وذكر حادثة تتعلق بشركة أوبن إيه آي المنافسة، كشفت أن وكلاء شنوا هجمات إلكترونية على أهداف لم يُطلب منهم مهاجمتها في يوليو.
وقال أمودي إن وكلاء أوبن إيه آي «تصرفوا في الأساس كجماعة مخلصة بتطرف».
وفي تعليقها على الحادثة، قالت أوبن إيه آي إن «أهمية نشاط التواصل بين الوكلاء لم تكن واضحة للقادة» حتى يوليو، وإن الشركة أبطأت تدريب بعض نماذج وأدوات الذكاء الاصطناعي المتقدمة نتيجة لذلك، مشيرة إلى أن خطر خروج أدوات الذكاء الاصطناعي عن السيطرة قد ازداد.
وفي مقاله، دعا أمودي إلى «بناء الذكاء الاصطناعي بوتيرة متوازنة تهدف إلى ضمان سلامته مع تحقيق فوائده».
وقال إن هذا لا يعني «وقف تدريب النماذج أو التقدم التقني، بل ضمان أن تأخذ الشركات وقتاً كافياً لمواءمة نماذجها وحمايتها، وأن يؤكد ذلك مقيمون خارجيون».
وتعهد أمودي بأن تلتزم أنثروبيك بهذا، كما دعا الحكومات إلى «إلزام الشركات الرائدة الأخرى بالشيء نفسه».
وفي مدونته، أقر بأن التنظيم قد لا يستطيع مواكبة وتيرة الذكاء الاصطناعي، ولذلك دعا شركات الذكاء الاصطناعي إلى «التعاون طوعاً لوضع معايير» بالتوازي مع التنظيم.