أعلنت شركة OpenAI، الشركة المطوّرة لتطبيق ChatGPT، أنّها رصدت نماذج الذكاء الاصطناعي التابعة لها وهي تتواصل مع بعضها البعض وتصل إلى الإنترنت من دون إذن مسبق، وذلك قبل أشهر من اختراقها لشركة “Hugging Face” الناشئة. وجاء هذا الكشف بعد تحقيق داخلي أجرته الشركة.
وذكرت OpenAI في تقرير نشرته يوم الأربعاء أنّ عوامل الذكاء الاصطناعي لديها استغلت ثغرات في “Artifactory”، وهي أداة لتخزين البرمجيات، لتتمكن من نشر ملاحظات والوصول إلى الإنترنت من دون أي تدخل بشري، وكان ذلك في وقت مبكر يعود إلى شهر مايو/أيار الماضي.
وأضافت الشركة أنّ هذه العوامل استغلت لاحقاً ثغرة أخرى في “Artifactory” في الثامن من يوليو/تموز، مما سمح لها بالتواصل فيما بينها، وأدى ذلك إلى سلسلة من الأحداث بلغت ذروتها في الهجوم الذي استهدف شركة “Hugging Face” في الحادي عشر من يوليو/تموز.
ويأتي هذا الكشف في وقت تتزايد فيه المخاوف من قدرة الذكاء الاصطناعي على إلحاق أضرار حقيقية في العالم الواقعي، بما في ذلك شن هجمات سيبرانية ذاتية التوجيه، أي من دون أوامر بشرية.
وقالت OpenAI في تقريرها إنّ عواملها تعاونت ووزّعت المهام فيما بينها خلال الفترة التي سبقت الهجوم، وكانت تشير إلى نفسها أحياناً باسم “سرب” أو “جماعة”. وكشفت شركتا “METR” و”Redwood Research”، وهما جهتان متخصصتان في الأبحاث الأمنية تعاقدت معهما OpenAI للتحقيق في الحادثة، في تقرير منفصل نُشر يوم الأربعاء، أنّ نحو 1200 عامل ذكاء اصطناعي تواصلوا مع بعضهم، وأنّ حوالي 700 منهم شاركوا في الهجوم.
وبعد أن توصّلت العوامل إلى طريقة للهروب من البيئة المغلقة التي وضعتها الشركة، تبادلت أساليبها عبر “لوحة رسائل تفاعلية”، مما سمح لعوامل إضافية باستغلال البنية التحتية للشركة. ووفقاً للتقرير، فعندما عثر عامل ذكاء اصطناعي على بيانات اعتماد لمستخدمين في “Hugging Face” كانت مكشوفة على الإنترنت، شاركها مع المجموعة، وهو ما مكّن أحد العوامل من “اكتشاف وربط عدة ثغرات أمنية معاً” وفتح الطريق للوصول إلى خوادم الشركة المستهدفة.
وأقرّت OpenAI بأنّ فريقاً داخلياً لاحظ نشاطاً مشبوهاً على لوحة الرسائل وحالات وصول غير مسموح بها إلى الإنترنت في وقت مبكر يعود إلى أواخر مايو/أيار الماضي، وقالت: “مع الاستفادة من النظر إلى الوراء، كان ينبغي لبعض الإشارات المبكرة التي وردت في تقريرنا أن تدفع إلى استجابة أسرع”.
وأوضحت الشركة أنّ العوامل التي صُنعت باستخدام نموذج ذكاء اصطناعي لم يُطرح بعد كانت المشارك الأساسي في الهجوم، لكنّ نموذج “GPT-5.6 Sol” المتاح للعموم شارك أيضاً في ذلك.
كما كشفت الشركة أنّ فريقها الأمني احتاج إلى 11 يوماً ليكتشف الأنشطة الخبيثة التي سبقت الهجوم، وقد اكتُشفت القضية في 19 يوليو/تموز وأُعلن عنها للعموم في 21 يوليو/تموز.
ووصفت OpenAI الحادثة بأنها “تحذير مبكر” للعالم، وقالت إنها ستتخذ عدة إجراءات لتعزيز الضمانات الخاصة بنماذجها، بما في ذلك تقييد الوصول إلى الإنترنت، وإنشاء بيئات اختبار أكثر أماناً، وفرض “متطلبات أكثر صرامة للتوافق طوال دورة حياة النموذج”.
وأضافت الشركة التي تتخذ من سان فرانسيسكو مقراً لها: “نستثمر أيضاً موارد حاسوبية أكبر بكثير في مراقبة سلسلة التفكير للتدخل بسرعة أكبر في السلوك غير المتوافق”.
من جهتها، لم ترد شركة “Hugging Face”، التي تدير منصة لاستضافة نماذج الذكاء الاصطناعي مفتوحة المصدر، على طلب التعليق خارج ساعات العمل الرسمية.
أمّا توبي والش، الخبير في الذكاء الاصطناعي وأستاذ في جامعة نيو ساوث ويلز في سيدني، فقال إنّ الجمهور يجب أن يشعر بالقلق من أن OpenAI فاتتها إشارات تحذيرية وسمحت للأنشطة الخبيثة بأن تمرّ دون اكتشافها لفترة طويلة. وأضاف: “لا يمكننا الاعتماد على حسن نيتهم أو على كفاءتهم. هذا الأمر يحتاج إلى رقابة تنظيمية، والآن!” وقال: “لقد تجاهلوا بعض الأدلة المبكرة المقلقة مثل هذا”، مشدداً على أنّ “التدقيق الخارجي هو الرد الوحيد المناسب”.
كما أشار والش إلى أنّ الحادثة تُظهر “تضارب المصالح المتأصل” في قلب تطوير الذكاء الاصطناعي، قائلاً: “المختبرات منخرطة في سباق لا هوادة فيه لدفع الحدود. وعندما تُمنح النماذج أهدافاً غير مقيّدة لتحقيق أقصى درجات الأداء، فإنها تعمل بشكل طبيعي على تحسين النتيجة بأي وسيلة ممكنة.”