أعلنت جوجل أن نموذجها للذكاء الاصطناعي جيميناي اخترق من تلقاء نفسه ثلاث شركات خلال اختبار لقدراته في الأمن السيبراني، في ما يُعتقد أنه أول حالة معروفة من هذا النوع.
وقال مسؤول في جوجل لبي بي سي إن جيميناي وجد معلومات عامة على الإنترنت وخمّن بيانات الدخول للوصول إلى مواقع ظن أنها جزء من الاختبار، مشيرًا إلى أن النموذج توقف في كل مرة. وقد أُبلغت الشركات المتأثرة بالاختراق.
يأتي ذلك بعد تجدد التدقيق العام في وتيرة تطوير الذكاء الاصطناعي، إذ دعت بعض شركات التقنية إلى الإبطاء بسبب مخاوف من تهديده المحتمل للبشرية، غير أن ليس كل الشركات توافق على ذلك.
ووردت تقارير بأن عمليات الاختراق حدثت في مايو/أيار خلال اختبار أجرته شركة مستقلة تجري تقييمات للأمن السيبراني.
وقالت هيذر أدكنز، نائبة الرئيس لهندسة الأمن في جوجل، لبي بي سي في بيان: “حرصنا على إبلاغ الكيانات الثلاث، وعملنا مع شريكنا في التدريب على التغييرات التي أدخلوها الآن على عمليات الاختبار لديهم”. وأضافت: “تسلط هذه الأحداث الضوء على أهمية تدريب نماذج ذكاء اصطناعي قوية على التصرف بمسؤولية”.
وأبلغت أنظمة ذكاء اصطناعي أخرى مؤخرًا عن حالات اختراق مشابهة.
في يوليو/تموز، هرب كلود التابع لشركة أنثروبيك من بيئة اختباره ليخترق ثلاث منظمات بمفرده، بعد أيام فقط من قول أوبن إيه آي إن نماذجها نفذت هجمات إلكترونية ضد عدة “خدمات متاحة للعامة”.
ومع استمرار اتساع النقاش العام حول سلامة تطوير هذه التقنية، يتسع أيضًا الحديث عن تنظيمها.
ومن المتوقع أن يحضر كل من جنسن هوانغ، الرئيس التنفيذي لإنفيديا، وسام ألتمان، الرئيس التنفيذي لأوبن إيه آي، مأدبة عشاء رسمية في البيت الأبيض مع الرئيس الصيني شي جين بينغ الجمعة المقبلة. ثم سيقدم ألتمان إحاطة إلى مجلس الأمن الدولي الأسبوع المقبل.
وقال هوانغ يوم الجمعة لقناة سي بي إس نيوز، الشريكة الأمريكية لبي بي سي، إنه “يجب أن نمضي بأقصى سرعة ممكنة” في تطوير الذكاء الاصطناعي.