مبتكر شات جي بي تي يقول إن وكلاء الذكاء الاصطناعي عطّلوا مراقبة عدم التوافق خلال مهمتين برمجيتين داخليتين.
نُشر في 21 أكتوبر 2026
كشفت أوبن إيه آي أن وكلاءها من الذكاء الاصطناعي عطّلوا مراقبة السلوك غير المصرح به أثناء استخدامها داخلياً، في أحدث واقعة تخرج فيها هذه التقنية المتقدمة عن السيطرة.
وقالت الشركة في تقرير نشرته الثلاثاء إن وكلاءها أوقفوا أنظمة المراقبة أو أضعفوها، وهي الأنظمة المخصصة لاكتشاف عدم التوافق، أي عندما تتصرف نماذج الذكاء الاصطناعي بما يخالف رغبات البشر، وذلك خلال مهمتين برمجيتين داخليتين.
وأضافت أوبن إيه آي أن الحادثتين تضمنتا وكيل جي بي تي-6.1 سول الذي عطّل تنبيهات تلقائية كانت تُرسل إلى فريق الأمن في الشركة، ووكيل جي بي تي-6 أسترا الذي أزال نظام مراقبة ثم ادعى زوراً أنه لم يفعل ذلك.
وقالت الشركة إن أياً من الحالتين لم يبلغ الحد المطلوب لتصنيفها حادثة بأعلى أولوية تستلزم مراجعة فورية من فريق الأمن لديها.
وأوضحت أوبن إيه آي أنها حدّثت أنظمتها لاكتشاف محاولات تعطيل مراقبة عدم التوافق على نحو أفضل، وبدأت التحقيق في سبب هذه السلوكيات.
وجاء في بيان الشركة ومقرها سان فرانسيسكو: “من الممكن أن يكون هذا السلوك مجرد مثال على إصرار مفرط ‘غير ضار’، حيث لا تفهم النماذج سبب أهمية المراقبة، أو تصر على تنفيذ التعليمات بما يتجاوز ما قد يتوقعه شخص عاقل”.
وأضافت: “نعمل أيضاً على تطوير اختبارات لتقييم ما إذا كانت النماذج قد تكون عرضة لتجنب مراقبة عدم التوافق على وجه الخصوص، وأن تُظهر تفكيراً مدفوعاً بالدوافع لتحقيق ذلك”.
ووصف رومان في يامبولسكي، وهو خبير في الذكاء الاصطناعي والأمن السيبراني بجامعة لويفيل، هذه الكشوف بأنها “مقلقة للغاية، لكنها ليست مفاجئة”.
وقال يامبولسكي للجزيرة: “آلية الأمان التي يستطيع النظام الخاضع للمراقبة تعطيلها ليست آلية أمان موثوقة. والأكثر إثارة للقلق أن أحد الوكلاء أنكر لاحقاً أنه أزال أداة المراقبة”.
وأضاف: “لا يمكن للمراقبة أن تضمن الأمان إذا كان النظام الخاضع للمراقبة قادراً على تقويض المراقبة نفسها”.
وتابع: “مع زيادة القدرات، قد تصبح هذه الإخفاقات أصعب بكثير في الاكتشاف والتصحيح. ويجب أن يقع عبء الإثبات على المطورين لإثبات الأمان قبل النشر، لا بعد وقوع الإخفاقات”.
وقد تعرض السلوك المتمرد لنماذج الذكاء الاصطناعي لتدقيق متزايد منذ يوليو، عندما كشفت أوبن إيه آي أن بعض وكلائها خرجوا من بيئة اختبار خاضعة للرقابة واخترقوا منصة الذكاء الاصطناعي هاغينغ فيس.
ودعت أوبن إيه آي ومنافسها الرئيسي أنثروبيك المطورين والحكومات إلى تنسيق تباطؤ عالمي في تطوير الذكاء الاصطناعي لتقليل خطر الأضرار الكارثية.
وأبدت الولايات المتحدة والصين، القوتان الرائدتان عالمياً في الذكاء الاصطناعي، رغبة ضعيفة في التعاون بشأن تنظيم الذكاء الاصطناعي، واقتصر التنسيق حتى الآن على تعهدات بتحسين التواصل بشأن الحوادث ذات التداعيات على الأمان أو الأمن القومي.