قالت شركة أنثروبيك إنها اكتشفت وأوقفت محاولات لاستخدام نموذج الذكاء الاصطناعي الخاص بها في «أنشطة ضارة» قد تدعم تطوير أسلحة بيولوجية.
وجاءت هذه النتائج في تقرير حديث عن معلومات التهديدات أصدرته الشركة، وهو أحدث تحذير في سلسلة متزايدة من تحذيرات باحثي الذكاء الاصطناعي والعاملين في القطاع بشأن مخاطر هذه التقنية المحتملة على البشرية.
وقد أثارت هذه التحذيرات دعوات إلى التحرك، إذ طالب السناتور الأمريكي برني ساندرز بوقف تطوير الذكاء الاصطناعي المتقدم وحظر الذكاء الاصطناعي الفائق.
لكن الرئيس دونالد ترامب رفض هذه المخاوف حتى الآن، وقال يوم الخميس إنه قلق من أنه «إذا لم نفز في مجال الذكاء الاصطناعي، فسنكون في موقف سيئ للغاية».
نشرت الشركة تقريرها الأخير عن معلومات التهديدات يوم الخميس. وتنشر شركات أخرى للذكاء الاصطناعي تقارير مشابهة.
ومن ذلك جوجل، التي كتبت يوم الثلاثاء إن شخصا حاول استخدام أداة الذكاء الاصطناعي الخاصة بها «جيميني» للحصول على «دليل تقني كامل وخطوة بخطوة لتصنيع عوامل بيولوجية مسلحة».
ووفقا لتقرير أنثروبيك، استُخدم نموذجها «كلود» أيضا من قبل جهات مرتبطة بحملة تجسس إلكتروني مقرها روسيا، ومن قبل مؤسسة دعاية إيرانية.
وتراوحت حالات القلق التي رُصدت خلال الأشهر الثمانية الماضية بين تطبيقات مواعدة مزيفة وعمليات احتيال عبر شبكات واي فاي في الفنادق، وصولا إلى مراقبة صُممت لتحديد المعارضين.
واتهمت أنثروبيك أيضا شركات ذكاء اصطناعي صينية بمحاولة تقليد قدرات «كلود».
ويسرد التقرير الطويل حالات يُشتبه في أن جماعات مدعومة من دول، ومجرمين، وبائعي برمجيات تجسس، ومؤسسات دعاية تابعة للدول، وأفرادا ذوي دوافع سياسية أساؤوا استخدام تقنيتها.
وقالت إن «الاستخدام الضار» لنماذج «كلود هايكو» و«سونيت» و«أوبوس» جرى إيقافه بين ديسمبر ٢٠٢٥ وأغسطس ٢٠٢٦.
ولم تتضمن أي من حالات إساءة الاستخدام نموذج «كلود فايبل» أو نماذج «ميثوس» القوية، باستثناء حالة واحدة تتعلق بالتقطير، وهو عملية تدريب نماذج ذكاء اصطناعي أصغر باستخدام نماذج أكبر وأكثر تكلفة.
وبالإضافة إلى رصد استخدام نماذجها في عمليات إلكترونية وتأثيرية، ومراقبة، وعمليات احتيال وغش، وتطوير أسلحة، قالت أنثروبيك إنها أوقفت علماء استخدموا ذكاءها الاصطناعي بطرق قد تدعم تطوير أسلحة بيولوجية.
وسلط التقرير الضوء على «خمس دراسات حالة لفاعلين استخدموا نماذجنا بطرق قد تدعم تطوير أسلحة بيولوجية».
وقالت إن سوء الاستخدام البيولوجي «أحد أخطر مخاطر نماذج الذكاء الاصطناعي المتطورة». ومن دون ضمانات صحيحة، قد تكون لهذه القدرات «عواقب كارثية».
وأضافت أنثروبيك: «المعلومات نفسها التي يمكن استخدامها لتطوير سلاح بيولوجي يمكن استخدامها أيضا لتطوير لقاح أو علاج لمرض مثلا».
وقال جيكوب كلاين، رئيس قسم معلومات التهديدات في أنثروبيك، لصحيفة نيويورك تايمز إن الأمر «موقف دقيق للغاية».
وأضاف: «لن ترى شخصا يقول بطريقة تشبه أشرار القصص المصورة: مرحبا، أريد بناء سلاح بيولوجي لقتل الجميع».
وأشار التقرير أيضا إلى ست حالات استُخدم فيها «كلود» «لتطوير برمجيات لأسلحة تقليدية، بما في ذلك الأسلحة النارية والصواريخ والطائرات المسيرة المسلحة والقنابل وذخائر أخرى، فضلا عن أنظمة الاستهداف والتحكم التي تشغلها».