تقترح شركة أنثروبك أن تتوصل أبرز شركات الذكاء الاصطناعي في العالم إلى آلية منسقة لوقف مؤقت في تطوير الأنظمة المتقدمة، محذّرةً من أن وتيرة تحسّن التكنولوجيا سريعة لدرجة تُهدّد بفقدان البشر السيطرة عليها.
في تدوينة نشرتها الشركة المطوِّرة لشات بوت “كلود”، قالت إن تقدم نماذج الذكاء الاصطناعي في أداء المهام يتسارع، وأنه «من المفيد للعالم أن تتوفر له خيار إبطاء أو إيقاف مؤقت» هذا التطور. وأكدت أن معهدها البحثي الداخلي سيبحث القضية بالتعاون مع جهات أخرى ويجري «إجراءات» لبناء أنظمة تمكّن من تباطؤ أو توقف موثوق، من دون تفاصيل إضافية.
ردّت منافستها أوبن إيه آي بمقاربة مختلفة في تقرير أصدرته الأربعاء، معتبرةً أن «الحكومات الديمقراطية — وليس شركات خاصة تعمل منفردة — هي المسؤولة أخيراً عن وضع القواعد والضمانات وآليات المساءلة». وأضافت أن «القرارات المتعلقة بمعدّل ابتكار الذكاء الاصطناعي لا ينبغي أن تُترك لأي مختبر أو شركة أو مجموعة مصالح خاصة».
تشير أنثروبك إلى أن نماذج الذكاء الاصطناعي أصبحت تنفّذ المهام البرمجية، مثل كتابة الشفرات، بسرعة متزايدة، وأن التوجهات الحالية ومع توفر قوة حاسوبية كافية قد تمنح نظاماً ذكياً القدرة على تصميم وتطوير نسخة خلف له — ما يُعرف بـ«التحسّن الذاتي التكراري». هذه القابلية قد تمثل قفزة تكنولوجية كبرى تفيد مجالات العلوم والرعاية الصحية وغيرها، لكنها «قد تزيد أيضاً من مخاطر فقدان البشر السيطرة على الأنظمة».
أثار هذا السيناريو قلق شخصيات في قطاع التكنولوجيا منذ فترة. وتأتي تدوينة أنثروبك بعد تحذير آخر هذا الأسبوع من فريق باحثين بجامعة تورونتو عرض كيف يمكن للأدوات المدعومة بالذكاء الاصطناعي أن تيسّر برمجة «دودة» قابلة للتكيّف في استراتيجيات الاختراق أثناء انتشارها بين الأجهزة، فتستولي على شبكات حاسوبية واسعة. وقال الباحث الرئيسي نيكولا بابيرنو في مقابلة إن المهم أن الناس يفهموا أن المخاطر الأمنية لا تقتصر على أكبر نماذج اللغة فحسب.
قال مؤسسا الشركة، جاك كلارك ومارينا فافارو، إن الهدف من الدعوة إلى التوقف المؤقت هو إتاحة الوقت لـ«الهياكل المجتمعية وأبحاث التوافق» للحاق بتطورات الذكاء الاصطناعي. والتوافق هنا مصطلح صناعة يُستخدم للإشارة إلى ضمان امتثال التقنية للقيم والنوايا البشرية.
تقترح المقاربة المنسقة أيضاً آليات تحقق تمكّن مختبرات الذكاء الاصطناعي المتقدمة من التأكد من أن منافسيها عالمياً قد أوقفوا أو أبطأوا أعمالهم فعلاً، «وأن جهة خبيثة لا تستغل ستار التباطؤ المنسق لتتقدّم سراً». وتؤكد الشركة أن وجود آلية عالمية مُنسقة ضروري، لأن أي تباطؤ منفرد قد يمنح الجهات الأقل حذراً فرصة للحاق أو للتقدّم، ما يزيد الضغوط على الشركات والحكومات عند اتخاذ قرارات صعبة تتعلق بسلامة الذكاء الاصطناعي.
تزايدت المخاوف من فقدان الأنظمة المتقدمة السيطرة ووقوع أضرار مجتمعية مع تطور قدرات هذه التكنولوجيا. وأحدث نموذج أنثروبك «ميثوس» صدمة في قطاعات عدة، منها المصارف والبرمجيات، هذا العام بقدرته على كشف ثغرات في الشفرات القائمة. لكن التنظيم لا يزال بطيئاً، خصوصاً في الولايات المتحدة حيث تتركز معظم المختبرات الرائدة؛ إذ أصدر إدارة ترامب أمراً تنفيذياً مؤخراً يُلقي على عاتق المختبرات نفسها مسؤولية تقديم أقوى نماذجها طوعاً لاختبارات الأمن السيبراني الحكومية قبل إطلاقها للعامة.
التركيز على السلامة
الباحثون في مجال الذكاء الاصطناعي طالبوا سابقاً بتوقّف مؤقت، لكن دون نجاح يُذكر؛ ومن الداعمين السابقين كان إيلون ماسك، صاحب مختبر xAI، الذي شارك في دعوة مع معهد مستقبل الحياة عام 2023 لوقف التطوير ستة أشهر لتمكين وضع ضوابط للسلامة. أنثروبك، التي تُعرّف نفسها بمختبر يضع السلامة في مقدمة أولوياته، رفضت سابقاً أن تسمح للجيش الأمريكي باستخدام نماذجها في المراقبة الداخلية والأسلحة المستقلة بالكامل، فتعرضت لرد فعل حكومي أدرجها على قائمة أمنية وطنية من المقرر أن تدخل حيز التنفيذ لاحقاً في 2026.
تأتي تدوينة الشركة مع سباق بين أنثروبك وصانعة ChatGPT أوبن إيه آي لطرح أسهمهما في سوق الأسهم، في طرح أولي قد يقيم أنثروبك بما يقارب تريليونا من الدولارات. واعتمد فريق جامعة تورونتو في تجاربه على أداة ذكاء اصطناعي «مفتوحة المصدر» يسهل على مطوري البرمجيات الوصول إليها وتعديلها بتكلفة منخفضة، وقد أخطر الباحثون السلطات الكندية قبل نشر نتائجهم. وذكر بابيرنو أن المهاجمين الإلكترونيين في السابق كانوا يركزون على أهداف عالية القيمة مثل الأنظمة المصرفية والمستشفيات وشبكات الكهرباء ومحطات معالجة المياه والمدارس.
واتفق بابيرنو على ضرورة مزيد من التعاون بين الشركات والهيئات الحكومية والباحثين الأكاديميين لتطوير تدابير مضادة، لأن أدوات الاختراق المدعومة بالذكاء الاصطناعي تسرّع من عملية البحث عن نقاط الضعف في البرمجيات. «ذلك الحاسوب المحمول القديم في قبو بيتك الذي لا تراقبه يبدو هدفاً منخفض القيمة، لكنه يمكن أن يصبح منصة انطلاق لهجمات على أهداف أكثر أهمية»، قال. «أي جهاز متصل بالإنترنت الآن عرضة للخطر بسبب انخفاض تكلفة شن هذه الهجمات».