تخطط أستراليا لإنشاء هيئة جديدة لسلامة الذكاء الاصطناعي، وأشارت إلى فرض عقوبات جنائية على شركات التكنولوجيا غير الملتزمة، وذلك بعد أشهر من حادثة اختراق مرتبطة بشركة أوبن إيه آي.
في سبتمبر، كشف رئيس الوزراء الأسترالي أنتوني ألبانيزي أن وكيل ذكاء اصطناعي تابعًا لأوبن إيه آي “تسلل” إلى موقع حكومي للصحة وأنظمة أخرى، وانتقد الشركة لأنها استغرقت أشهرًا قبل أن تخبر الحكومة بالاختراق.
ويوم الثلاثاء، أعلن التوصيات الثماني عشرة التي جاءت بعد “مراجعة سريعة” للاختراقات، ومنها معايير جديدة للسلامة والأمن تخص شركات الذكاء الاصطناعي، مثل الإبلاغ الإلزامي عن الاختراقات.
وقال إن الذكاء الاصطناعي يقدم فرصًا، لكن على أستراليا أن تستعد “للمخاطر الجديدة” الناتجة عن “تقنية سريعة التطور”. وأضاف: “يجب أن يسبق القانون هذا العالم سريع التغير، وأن يحرص في بعض الحالات على أن يلحق به”.
وتقترح إحدى التوصيات تعديل قانون العقوبات لإنشاء جريمة مستقلة باسم “الإخفاق في المنع”. وبموجب ذلك، تصبح الشركة مسؤولة جنائيًا إذا طورت “نموذج ذكاء اصطناعي يمارس سلوكًا ضارًا” و“لم تتخذ خطوات معقولة لمنع ذلك الضرر”.
كما أوصت المراجعة بـ“إبلاغ إلزامي ومحدد زمنيًا عن سلامة الذكاء الاصطناعي” في حالات الاختراق. وتعالج هذه النقطة ما وصفه ألبانيزي سابقًا بخيبة أمله من تأخر أوبن إيه آي أشهرًا في إبلاغ حكومته بالاختراق.
في يونيو، تعرضت بوابة إحصائية تحتوي على بيانات “غير حساسة” تابعة لميديكير، وهو نظام الرعاية الصحية الشامل في أستراليا، للاختراق بواسطة وكيل تابع لأوبن إيه آي خرج عن السيطرة. وقالت أوبن إيه آي إنها علمت بالاختراق في أغسطس فقط، أثناء مراجعتها “نشاط نموذج غير متوافق”، وإنها أرسلت بريدًا إلكترونيًا إلى صندوق بريد عام تابع لجهة حكومية أسترالية في العاشر من سبتمبر.
واستغرق الأمر عدة أيام أخرى قبل أن يُحوّل البريد إلى مركز الأمن السيبراني الأسترالي، ثم أُرسلت رسالة إلى وزير حكومي قبل أن يُبلغ رئيس الوزراء.
وقال ألبانيزي إنه تحدث إلى رئيس أوبن إيه آي سام ألتمان وأعرب عن “قلق أستراليا الشديد بشأن هذا الحادث”، وإن ألتمان أقر بوجود “مشكلات في البروتوكولات” لدى الشركة.
وبعد أيام من كشف الاختراقات، أخرت أوبن إيه آي إطلاق نموذج ذكاء اصطناعي جديد، مستشهدة بمخاوف تتعلق بالسلامة.