قالت شركة ذكاء اصطناعي إن كلود أوبوس ٤.٦ اخترق أنظمة طرف ثالث خلال اختبارات في يناير، وسط تصاعد المخاوف بشأن الاختراقات الأمنية.
أعلنت أنثروبيك عن حادثة رابعة تتعلق بنموذج ذكاء اصطناعي حصل على وصول غير مصرح به إلى أنظمة خارجية، وذلك بعد وقت قصير من استقالة باحث بسبب مخاوف من التطوير المتعجل للتقنية.
وفي بيان صدر الأربعاء، قالت شركة أبحاث الذكاء الاصطناعي إن نسخة مبكرة من كلود أوبوس ٤.٦ اخترقت نظامًا تابعًا لطرف ثالث في يناير. وأضافت أنها أبلغت جميع الأطراف المتأثرة لكنها لم تكشف عن مزيد من التفاصيل.
وقالت أنثروبيك إن حادثة يناير لم تُكتشف حتى الشهر الماضي، رغم مراجعة سابقة شملت الشركة كلها، ما يبرز التحدي الذي يواجهه مطورو الذكاء الاصطناعي في تحديد السلوك غير المتوقع للنماذج المتقدمة واحتوائه.
جاء هذا الإفصاح بعد أن أعلنت أنثروبيك أن عدة نماذج من كلود اخترقت أنظمة ثلاث شركات خلال جلسات اختبار في يوليو. وشملت الحوادث السابقة كلود أوبوس ٤.٧، وكلود ميثوس ٥، ونموذج اختبار بحثي داخلي.
سباق الذكاء الاصطناعي
تخضع شركات من بينها أنثروبيك وأوبن إيه آي لتدقيق متزايد، لأن النماذج المصممة لإنجاز مهام معقدة تعلمت أحيانًا أن تلتف على القواعد، وتستغل الثغرات، وتتفاعل مع أنظمة خارجية بطرق لم يتوقعها مطوروها.
في الأسبوع الماضي، ذكرت وكالة رويترز أنَّ وكلاءَ مارقين تابعين لأوبن إيه آي استولوا على ويكي باللغة الألمانية وعدد من المواقع الأخرى، وهي حادثة اختارت الشركة عدم الكشف عنها حتى أصبحت علنية.
وفي يوليو، اخترق وكلاء مستقلون تابعون لأوبن إيه آي أيضًا خوادم وبنية تحتية لشركة هاغينغ فيس الناشئة في مجال الذكاء الاصطناعي.
دفعت تلك الحادثة أنثروبيك إلى مراجعة نحو ١٤١٬٠٠٦ جلسة اختبار. وقالت الشركة إنها لا تعتقد، بناءً على تقييم أولي، أن الحادثة الأخيرة أكثر خطورة من الحوادث الثلاث السابقة التي فُحصت بالتفصيل.
وقالت إن تحقيقها حدد مشكلتين متكررتين ظهرتا بدرجات متفاوتة في الحوادث: التفكير المتحيز، إذ قللت كلود من قيمة الأدلة أو أخطأت في تفسيرها بأنها تعمل على إنترنت حي، والتهور، أي الاستعداد لاتخاذ إجراءات قد تكون ضارة سعيًا لإنجاز مهمة.
وقالت أنثروبيك إنها كلفت شركة الأبحاث المستقلة ميت آر بالتحقيق في الحوادث.
باحث في أنثروبيك يستقيل
تأتي هذه التحقيقات وسط موجة أوسع من الخلاف الداخلي في صناعة الذكاء الاصطناعي حول السلامة. وقال باحث في أنثروبيك إنه استقال بسبب مخاوف من قدرة التقنية على تجاوز السيطرة البشرية.
وقال جيكوب كوكسون، في منشور على منصة إكس انتشر على نطاق واسع الثلاثاء، إن صناعة الذكاء الاصطناعي تركز أكثر على المنافسة بدلًا من تطبيق ضمانات السلامة. وقال إنه توصل إلى هذه القناعة بعد أن أمضى السنوات الثلاث الماضية في البحث في أوبن إيه آي وأنثروبيك.
وقال كوكسون: “الأشخاص الذين يبنون الذكاء الاصطناعي يعتقدون بصدق أنه قد يقتلنا جميعًا بنهاية هذا العقد”.
وأضاف: “لا يوجد نشاط بشري آخر يطرح هذا المستوى من الخطر”، مشيرًا إلى التقدم السريع في تقنية الذكاء الاصطناعي.
وفي يونيو، اقترحت أنثروبيك جهدًا منسقًا مع كبار مطوري الذكاء الاصطناعي في العالم لإبطاء التطوير، محذرة من أن البشر قد يفقدون السيطرة على التقنية.
بعد الاختراق الأمني لشركة هاغينغ فيس، قالت أوبن إيه آي إنها تضغط من أجل متطلبات وطنية إلزامية لسلامة الذكاء الاصطناعي، وإنها تريد العمل مع الكونغرس على تنظيم “قائم على القدرات”.
وفي بيان نُشر الأربعاء، قالت الشركة إنها تؤيد رسميًا أربعة مشاريع قوانين في كاليفورنيا تتعلق بضمانات الحماية من الذكاء الاصطناعي.
وقال البيان: “إذا لم نستطع تلبية معايير سلامة معينة دون إبطاء نمو القدرات، فيجب أن نعطي الأولوية للأولى. وكلما أصبحت التقنية أقوى، وجب أن تصبح الضمانات المحيطة بها أقوى”.