أعلنت شركة التكنولوجيا الأمريكية “أنثروبيك” أن ثلاثة من نماذج الذكاء الاصطناعي التابعة لها تمكنت من الخروج من بيئات اختبار معزولة واقتحام أنظمة شركات أخرى خلال تمرين للأمن السيبراني.
جاء هذا الإعلان بعد أيام فقط من قول شركة “أوبن إيه آي” المنافسة إن نماذجها اخترقت أنظمة شركات أخرى، من بينها “هاغينغ فيس”، وهي منصة رئيسية لأدوات الذكاء الاصطناعي.
دفع هذا الإعلان شركة أنثروبيك إلى التحقق مما إذا كانت نماذجها قد نفذت هجمات مماثلة. وقالت إنها اكتشفت ثلاث حالات، وأبلغت الشركات المتضررة بها.
لم تذكر أنثروبيك أسماء الشركات، لكنها حثت معامل الذكاء الاصطناعي الأخرى على إجراء مراجعات مماثلة لفهم المخاطر التي تشكلها قدرات نماذجها بشكل أفضل.
وقالت الشركة في بيان إنها راجعت أكثر من 140 ألف اختبار للعثور على دليل على أن نموذج “كلود” — عائلة نماذجها — يمكنه الوصول إلى الإنترنت من بيئات الاختبار التي صُممت لتكون معزولة.
وتضمنت الاختبارات ما يُسمى بتقييمات “التقاط العلم”، حيث طُلب من كلود الحصول على معلومات عن طريق اختراق أنظمة أخرى، وهي طريقة شائعة يستخدمها الخبراء لتقييم قدرات النموذج على الاختراق.
وقالت الشركة ومقرها سان فرانسيسكو إن “سوء تواصل” بين الأنظمة التي تديرها أنثروبيك وشريكها في الاختبار ترك النماذج متصلة بالإنترنت بشكل مباشر، مما سمح لها باختراق أنظمة أخرى.
وأضافت أنثروبيك أنها تتعامل مع التصحيحات وكأن المسؤولية تقع عليها وحدها.
سلسلة من الهجمات السيبرانية التي يقودها الذكاء الاصطناعي زادت الدعوات إلى تشديد الضمانات والرقابة على هذه التكنولوجيا، بسبب المخاوف من المخاطر التي تشكلها الأنظمة المستقلة المتزايدة القوة.
قال الرئيس الأمريكي دونالد ترامب يوم الأربعاء إن واشنطن تدرس اتخاذ إجراءات لضبط أدوات الذكاء الاصطناعي بعد الحوادث السيبرانية الأخيرة.