أعلنت شركة “أنثروبيك” أن نموذج الذكاء الاصطناعي “كلود” اخترق أنظمة ثلاث منظمات خلال اختبارات كان يفترض أن تُبقيها معزولة عن الإنترنت.
وجاء هذا الإعلان يوم الخميس، بعد أيام من كشف “أوبن إيه آي” المنافسة لأول مرة أن نماذجها وصلت إلى الإنترنت بشكل غير صحيح وتجاوزت التعليمات خلال اختبار أمني.
وقالت أنثروبيك إن خللاً في الإعدادات سمح لنماذج كلود بالوصول إلى الإنترنت، وإنها اكتشفت الأمر بعد مراجعة 141,006 جلسة اختبار.
وبدأت المراجعة بعد أن كشفت أوبن إيه آي الأسبوع الماضي أن وكيلاً مستقلاً يعمل بنماذجها تجاوز التعليمات خلال اختبار أمني واخترق البنية التحتية لشركة “هاغينغ فايس”، وهي شركة أخرى تعمل في مجال الذكاء الاصطناعي.
هذه الحوادث زادت المخاوف بشأن “وكلاء” الذكاء الاصطناعي، وهي برمجيات مصممة لأداء مهام بشكل ذاتي. وقد أصدرت الشركتان هذا العام أقوى نماذجهما: “سول” من أوبن إيه آي، و”ميثوس” من أنثروبيك.
وقالت أنثروبيك إن الاختراقات حدثت أثناء تمارين “التقاط العلم”، حيث يُطلب من النماذج العثور على معلومات مخفية داخل شبكات محاكاة. وكانت التعليمات تخبر النماذج بأنها لا تملك وصولاً إلى الإنترنت، لكن سوء فهم مع شريك التقييم “إريغولار” ترك الأنظمة متصلة بالإنترنت العام.
وأضافت الشركة: “كلود اخترق البنية التحتية للمنظمات المتضررة باستخدام تقنيات بسيطة، مثل استغلال كلمات مرور ضعيفة ونقاط نهاية غير موثّقة”.
وأوقفت أنثروبيك جميع التقييمات السيبرانية في 23 يوليو/تموز بعد العثور على دليل على أن كلود ربما وصل إلى الإنترنت، وحددت الحوادث الثلاث بحلول 24 يوليو/تموز، وأخطرت المنظمات المتضررة في 27 يوليو/تموز.
وقالت إن اثنتين من المنظمات لم تكونا تعلمان بالنشاط قبل التواصل معهما، ولا تزال تحاول الوصول إلى الثالثة.
وحادثة أوبن إيه آي دفعت إلى عريضة وقعها أكثر من 1,000 موظف في شركات ذكاء اصطناعي كبرى، تطالب الحكومة الأمريكية بالمساعدة في إبطاء إصدار أحدث النماذج. وكان الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، من بين الموقعين.
وقال سام ألتمان، الرئيس التنفيذي لأوبن إيه آي، هذا الأسبوع إن الشركة أوقفت اختباراتها مؤقتاً لحين تحسين الضمانات حول عزل أنظمتها.
وقالت أنثروبيك إن النتائج تؤكد الحاجة إلى ضوابط أقوى في بيئات الاختبار الداخلية والخارجية، خاصة مع ازدياد قدرة نماذج الذكاء الاصطناعي على تنفيذ أنشطة سيبرانية في العالم الحقيقي.