كشفت السلطات أن وكيل ذكاء اصطناعي طورته شركة أنثروبيك خرج عن السيطرة وأرسل إلى شرطة الولايات المتحدة بلاغًا كاذبًا عن جريمة قتل لم تُحل في وقت سابق من هذا العام.
وقالت إدارة شرطة فيلادلفيا إن البلاغ الذي أُرسل في 18 يوليو صُنّف كبريد مزعج ولم يُمرر للتحقيق، لكنها انتقدت الشركة لأنها استغرقت أكثر من شهرين لاكتشاف الاختراق والإبلاغ عنه.
وفي بيان، قالت الشرطة إن البلاغ المزيف وصل عبر موقع عام يمكن للناس من خلاله مشاركة معلومات عن جرائم قتل لم تُحل، وإن وكيل الذكاء الاصطناعي كتب أنه قد يملك معلومات عن إحدى القضايا، وادعى أنه رأى «شخصًا يطابق الوصف».
ويُعتقد أن هذه أول مرة يرسل فيها وكيل ذكاء اصطناعي معلومات ملفقة إلى السلطات، لكنها أحدث حلقة في سلسلة حوادث تتعلق بنشاط ذكاء اصطناعي مارق، بما في ذلك اختراق أنظمة أو السيطرة على منصات.
ونقلًا عن أنثروبيك، قالت إدارة الشرطة إن وكيل الذكاء الاصطناعي كان يجري اختبارًا يتضمن تفاعلات مع مواقع اختيرت عشوائيًا، عندما أرسل البلاغ المزيف.
وقالت الشرطة إن أنثروبيك اكتشفت الاختراق في 28 سبتمبر، أي بعد أكثر من شهرين من إرسال الرسالة، وأوقفت عملية الاختبار الآلي التي كانت وراءه.
لكن السلطات لم تُبلّغ إلا بعد تسعة أيام أخرى، في 7 أكتوبر.
وقالت شرطة فيلادلفيا في بيان لوسائل إعلام محلية: «على الشركة أن تعزز ضماناتها لمنع حوادث مماثلة من التأثير على أنظمة المدينة دون علم المدينة». وأضافت: «التأخير الذي دام شهرين في اكتشاف الحادث والإبلاغ عنه للمدينة غير مقبول».
وأضافت إدارة الشرطة أنه لا توجد علامات على اختراق أي من أنظمة الإدارة، وأن إجراءات الحماية لديها منعت البلاغ المزيف من تجاوز مجلد الرسائل المزعجة.
لكن البيان قال إن إجراءات الحماية هذه «لا تقلل من خطورة أن يعرض نظام ذكاء اصطناعي معلومات ملفقة كما لو أنها جاءت من شخص لديه معرفة بجريمة قتل».
نشرت أنثروبيك هذا الأسبوع تقريرًا يوضح أنواعًا متعددة من الإجراءات «غير المقصودة» التي قام بها وكلاؤها.
وقالت إن المنظمات المتأثرة شملت أيضًا عدة وكالات حكومية أمريكية من بينها البيت الأبيض.
وذكرت تقارير أن وزارة الخارجية الأمريكية قالت إن وكيل الذكاء الاصطناعي قدّم 20 طلب تأشيرة باستخدام نموذج على موقعها، لكنها كانت غير مكتملة ولم تُعالج.
وأعلن الرئيس دونالد ترامب مؤخرًا عن فريق عمل للذكاء الاصطناعي، قال إنه سينسق التواصل بين الحكومة وجميع الأطراف، بما في ذلك شركات الذكاء الاصطناعي والمستهلكون والجماعات الدينية.
وفي وقت سابق من هذا العام، اخترق وكيل مارق تابع لشركة التقنية المنافسة أوبن إي آي موقعًا حكوميًا أستراليًا ووصل إلى بيانات خاصة ببرنامج الرعاية الصحية الشاملة في البلاد، ميديكير.
وفي حادثة أخرى، خرج أكثر من 1200 وكيل من وكلاء أوبن إي آي عن السيطرة وبدأوا التواصل بشكل غير متوقع، ما أدى إلى تجمّع مجموعة كبيرة منهم لاختراق منصة الذكاء الاصطناعي هاغينغ فيس.