كشف تقرير جديد أن الذكاء الاصطناعي استُخدم لتطوير برمجيات توجيه الصواريخ، ولتشغيل عمليات تجسس إلكتروني مرتبطة بدول.
وتقول شركة أنثروبيك إنها أحبطت عدة عمليات ضارة استخدمت فيها نماذج كلود، تراوحت بين التجسس الإلكتروني وتصميم الأسلحة وحملات المراقبة الجماعية.
على صعيد الأسلحة التقليدية، تزعم الشركة في تقرير جديد أنها تدخلت في شمال اليمن، حيث منعت محاولة لتوظيف كلود في برمجيات توجيه الصواريخ، بما في ذلك صاروخ موجه وصاروخ باليستي بعيد المدى.
وفي تقرير التهديدات، قالت أنثروبيك إن المشغلين استخدموا كلود بدلًا من مهندسي البرمجيات البشر، ووزعوا أدوارًا محددة على نسخ مختلفة من النموذج لكتابة برمجيات توجيه الصواريخ والتحكم بالطيران. ورغم أن ضمانات داخلية أوقفت كثيرًا من الطلبات، أقرّت الشركة بأن بعضها مرّ. وقد تجنّب المشغلون الاكتشاف بإخفاء أهدافهم النهائية وتقسيم المهام عبر جلسات منفصلة، بحيث لا يكشف طلب واحد العملية كلها.
وقالت الشركة إنها لا تملك دليلًا على أن المجموعة تمكنت من إنتاج سلاح يعمل، لكنها ذكرت أن المشغلين يبدو أنهم أجروا اختبار إطلاق فاشل. وأضاف التقرير أن الشركة حظرت الحسابات المعنية، وشاركت معلومات التهديد مع شركاء في القطاعين العام والخاص لتقليل المخاطر التي يشكلها هؤلاء الفاعلون.
تجسس إلكتروني مرتبط بالدول
يزعم التقرير أن عملية تجسس مرتبطة بروسيا، تحمل سمات ميدنايت بليزارد المعروفة أيضًا باسم إيه بي تي 29، اعتمدت على مسارات عمل آلية بالذكاء الاصطناعي لتشغيل معظم العملية تقريبًا، من التصيد والإعداد إلى سرقة البيانات، ضد أهداف أوكرانية وأوروبية ودبلوماسية، بما في ذلك شركات تصنيع الطائرات المسيّرة.
وفي حالة منفصلة، قالت الشركة إنها أوقفت عملية صينية يديرها طلاب جامعات في مقاطعة هونان، استخدموا كلود كطبقة هندسية وتنظيمية لبرنامج هجومي يستهدف شبكات حكومية وشركات في الشرق الأوسط وأوروبا وجنوب شرق آسيا. وفي الحالتين، قالت أنثروبيك إنها حظرت الحسابات المرتبطة وفرضت مراقبة إضافية لاكتشاف نشاط مشابه.
تحديد الأهداف في سوريا وإيران
تزعم أنثروبيك أيضًا أنها حددت وأزالت ثلاثة حسابات إيرانية متحالفة مع الدولة تستخدم كلود لتنفيذ عمليات نفوذ نفسي سرية. وارتبطت كل عملية بمؤسسة دعاية إيرانية معروفة بالاسم، من بينها منظمة الثقافة والاتصال الإسلامي، وغرفة قيادة في مدرسة دينية في مشهد توزع محتوى متوافقًا مع روايات الحرس الثوري الإسلامي.
وفي حالة أخرى، يزعم التقرير أن مجموعات متحالفة مع الدولة استخدمت كلود في عملية على نطاق صناعي، إذ وجّهت النموذج لتوليد ملفات منظمة ترسم خريطة للأهداف حسب الموقع والتركيبة السكانية والميول السياسية ودرجات الثقة.
وذكرت أنثروبيك أن الحالة الأكثر نضجًا من الناحية العملية اكتُشفت عندما استخدم حساب مرتبط بالصين لا يجيد العربية كلود لتنفيذ عملية تجنيد استمرت عدة أيام للتسلل إلى أهداف أويغورية في سوريا. وقالت إن النموذج صاغ رسائل تواصل باللهجة المحلية وترجم الردود في الوقت الفعلي.
وفي وقت سابق من هذا الأسبوع، كشفت أنثروبيك حادثة أخرى حصل فيها نموذج ذكاء اصطناعي على وصول غير مصرح به إلى أنظمة خارجية، وتعلقت بنسخة مبكرة من كلود أوبوس 4.6، بعد وقت قصير من استقالة باحث سابق في الشركة، جاكوب كوكسون، علنًا بسبب مخاوف تتعلق بالسلامة.
وحذّر كوكسون في منشور على منصة إكس قائلًا إن الأشخاص الذين يبنون الذكاء الاصطناعي يعتقدون بصدق أنه قد يقتلنا جميعًا قبل نهاية العقد. وبعد ذلك، أيّد عالم آخر في أنثروبيك، هو إيفان هوبينغر، كلام كوكسون.
وقد دفعت تحذيرات الباحثين عددًا متزايدًا من المشرّعين الأمريكيين إلى المطالبة بقواعد جديدة لتنظيم أنظمة الذكاء الاصطناعي. وتقول أنثروبيك إنها تحقق في المشكلات والاختراقات المتكررة في هذه الحوادث، وكلّفت شركة أبحاث مستقلة بمراجعتها.
العلاقة مع واشنطن
لا تزال العلاقات بين واشنطن وشركة الذكاء الاصطناعي متوترة بعد مواجهة متنازع عليها حول ضوابط أخلاقية. وفي وقت سابق من العام، أدرجها البنتاغون كخطر على سلسلة التوريد بعد أن رفضت التخلي عن ضمانات تمنع استخدام تقنيتها في أسلحة ذاتية ومراقبة داخلية.
وقد طعنت أنثروبيك في القرار في كاليفورنيا، وحكم قاضٍ الشهر الماضي بأن وزارة الدفاع الأمريكية تصرفت بشكل غير قانوني في إصدار هذا التصنيف. ومع ذلك، ورغم المعركة القانونية والتوتر العلني، يُقال إن البنتاغون نشر نماذج كلود في مهام عسكرية في إيران وفنزويلا.
ويأتي التقرير في لحظة حساسة للشركة، إذ تسعى إلى استعادة مكانتها الكاملة داخل قاعدة الصناعات الدفاعية الأمريكية بعد إدراج البنتاغون لها.