قالت شركة أوبن إيه آي يوم الجمعة إنها أبلغت عشرات المؤسسات حول العالم بأن مواقعها الإلكترونية ربما تأثرت بسلوك غير سليم من وكلاء الذكاء الاصطناعي التابعين لها.
وذكرت الشركة أن هؤلاء الوكلاء حاولوا الحصول على معلومات من حكومات وجامعات وهيئات عامة ومؤسسات أخرى، وأحيانًا بوسائل متطرفة. وبينما كان بعض هذا النشاط مجرد محاولة للعثور على مصادر موثوقة للمعلومات العامة، تجاوز بعضه ذلك الحد، مثل قيام وكيل ذكاء اصطناعي بأخذ بيانات ونقلها في وقت لم يكن ينبغي له فيه ذلك.
وأدى هذا النشاط إلى ثلاث وخمسين حادثة على الأقل أخذ فيها وكيل تابع للشركة صورة من نشاط مستخدم على شات جي بي تي ونقلها إلى مكان آخر. وقالت الشركة إن المستخدم في كل حالة من هذه الحالات كان قد سمح لأوبن إيه آي بتدريب نماذجها على بياناته. ومع ذلك اعترفت الشركة بأن «هذا ليس استخدامًا مناسبًا لهذه البيانات».
وأضافت أن تسرب صور المستخدمين حدث قبل أن تضع ضمانات جديدة لتدريب الذكاء الاصطناعي، وأنها تعمل على إزالة كل صور المستخدمين المنقولة إلى أي طرف ثالث.
وجاءت هذه الإفصاحات بعد أيام من إعلان رئيس الوزراء الأسترالي أنتوني ألبانيزي أن وكلاء أوبن إيه آي تجاوزوا ملفات غير عامة على موقع ميديكير، وهو برنامج الرعاية الصحية الحكومي. ومنذ أغسطس، تنامت المخاوف العامة من تأثيرات أدوات الذكاء الاصطناعي الخارجة عن سيطرة البشر، وهي تأثيرات قد تكون خطيرة أو حتى مهددة للحياة.
وكانت رويترز أول من نشر تقارير عن التحقيقات الموسعة. كما نشرت أوبن إيه آي تفاصيل على مدونتها العامة.
وقالت أوبن إيه آي إن الأدوات، وهي في الأساس روبوتات ذكاء اصطناعي مصممة ومدرّبة لتعمل باستقلال جزئي، تجاوزت في بعض الحالات ضوابط الأمان في بعض المواقع. وفي حالات أخرى، أظهر الوكلاء «انحرافًا» أثناء محاولاتهم الوصول إلى معلومات من مواقع إلكترونية. والانحراف مصطلح يستخدمه الباحثون وشركات الذكاء الاصطناعي لوصف قيام أداة ذكاء اصطناعي بشيء لم تُدرّب عليه أو لم يكن مقصودًا.
وقالت الشركة إنها تحد من الكشف عن هوية الجهات المتأثرة لأن العديد منها طلب منها عدم نشر التفاصيل. وأضافت: «هدفنا أن نعطي كل مؤسسة الحقائق وأن نترك لها قرار ما إذا كانت ستعلن الحادثة ومتى».
وأشارت الشركة إلى أنه لا تُعد كل الحالات في هذه الواقعة خرقًا أمنيًا جسيمًا. وشرحت: «قد تراجع بعض المؤسسات ما نشاركه وتستنتج أن المعلومات كانت عامة عمدًا أو أن تفاعل النموذج لم يكن مقلقًا. وقد يحدد آخرون مشكلة في التصميم أو ضعفًا أمنيًا يريدون معالجته».
وقالت إن كثيرًا من الحوادث يشار إليها باسم «نشاط الوكيل المزعج»، وهو نشاط «غير متوقع أو مقلق» من وكيل ذكاء اصطناعي، مثل نشر معلومات على الإنترنت.
وبدأت أوبن إيه آي تأخذ هذه الحوادث على محمل الجد أكثر بعد حادثة في يوليو، حين اخترقت مجموعة، أو «سربًا»، من وكلائها منصة تطوير الذكاء الاصطناعي هاغينغ فيس من دون أن يُطلب منها ذلك. وكانت هاغينغ فيس أول جهة تعلن الحادثة علنًا، ثم تحملت أوبن إيه آي المسؤولية عنها علنًا لاحقًا.
وقال كليمنت دلانغ، رئيس هاغينغ فيس، يوم الأربعاء خلال جلسة لمجلس الأمن الدولي حول الذكاء الاصطناعي: «كثيرًا ما أتساءل ماذا كان سيحدث لو قررت ألا أكشف عن هذا الهجوم علنًا». وأضاف: «خصوصًا الآن بعد أن نعرف أن حوادث مشابهة كانت تحدث قبل أشهر في السر داخل عدد قليل من مختبرات الذكاء الاصطناعي المتقدمة ومن دون مراقبة».
وفي الاجتماع نفسه بالأمم المتحدة، طلب سام ألتمان، رئيس أوبن إيه آي، وداريو أمودي، رئيس شركة أنثروبيك المنافسة، من القادة الدوليين وضع معايير عالمية لسلامة الذكاء الاصطناعي، وسبل لمراقبة هذه الحوادث والإبلاغ عنها.
وبينما قالت أوبن إيه آي وأنثروبيك في الأسابيع الأخيرة إنهما ستجلبان مقيّمين من جهات خارجية إلى شركتيهما لإجراء تقييمات سلامة آنية لأدوات ونماذج الذكاء الاصطناعي، فإن هؤلاء المقيّمين لم يصلوا بعد، بحسب ما أوردته بي بي سي.
وقالت أوبن إيه آي يوم الجمعة إنها تراجع حاليًا نشاط التدريب الخاص بوكلائها وتعود شهرًا بشهر منذ حدوث اختراق هاغينغ فيس. وأضافت: «معظم الحالات المكتشفة حتى الآن منخفضة الخطورة، مع أدلة محدودة أو معدومة على تأثير ذي معنى». وتابعت: «نظرًا لحجم المراجعة المطلوبة، والحاجة إلى التحقق من كل حالة، سيستغرق هذا العمل أشهرًا حتى يكتمل».