أستراليا تلزم شركات الذكاء الاصطناعي بالإبلاغ الفوري عند خروج نماذجها عن السيطرة
قالت الحكومة الأسترالية إنها ستجعل الإبلاغ الفوري إلزامياً على شركات الذكاء الاصطناعي عندما تخرج نماذجها عن السيطرة، وإنها ستتيح هذه النماذج للتقييم. وقال رئيس الوزراء أنتوني ألبانيزي يوم الثلاثاء إن الحكومة قبلت جميع توصيات مراجعة سريعة أُجريت بشأن الاختراق، ومنها إلزام شركات الذكاء الاصطناعي بالإبلاغ عند حدوث سلوك غير متوافق مع نوايا المطورين أو عند وقوع حوادث سيبرانية، والنظر في تعديل القانون الجنائي في حالات سوء السلوك الجسيم.
وأضاف ألبانيزي أن أستراليا أول من يتحرك في هذا المجال، وأن الحكومة تريد مواصلة العمل كي تتمكن من الاستفادة من إمكانات الذكاء الاصطناعي. وجاء القرار بعد أن اخترقت نماذج تعمل بتقنية أوبن إيه آي نظاماً حكومياً أسترالياً للبيانات الصحية في يونيو، متجاوزة دفاعاته الرقمية ووصلت إلى ملفات من دون تصريح.
وسبق أن حذّرت كبرى شركات الذكاء الاصطناعي من خطر فقدان البشر السيطرة على أنظمتهم، ودعت إلى إبطاء تطوير الذكاء الاصطناعي إلى وتيرة تسمح بتنظيمه بأمان. وفي وقت سابق من هذا العام، ذهب إيفان هوبنغر، أحد باحثي السلامة في شركة أنثروبيك، إلى القول إنه يعتقد أن احتمال أن يتمكن الذكاء الاصطناعي من قتل البشر جميعاً خلال عقد يتجاوز عشرة في المئة.
وسيتولى المنظّم الأسترالي الجديد للذكاء الاصطناعي الإشراف على ضوابط الأمن طوال تطوير أنظمة الذكاء الاصطناعي ونشرها، وتحديد المخاطر الجسيمة وإدارتها، وإجراء تقييمات مستقلة للنماذج. كما ستلزم معايير الذكاء الاصطناعي بالإبلاغ السريع للحكومة عن حوادث مثل السلوك غير المتوافق الذي يخالف نوايا المطورين.
وتعرّف الوثائق الحكومية الأسترالية الذكاء الاصطناعي المتقدم بأنه أكثر النماذج تطوراً في طليعة القدرات التقنية الحالية. وقال ألبانيزي لسام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي، إن الشركة الأمريكية استغرقت وقتاً طويلاً لإبلاغ الحكومة بالحادثة. واعتذرت الشركة عن الاختراق وعن بطء استجابتها.
وأوصت لجنة تحقيق حكومية في اختراق يونيو بعدة إجراءات، من بينها أن تنظر الحكومة في تغيير القانون. ويأتي إنشاء منظّم الذكاء الاصطناعي المقترح بعد تعيين أستراليا مفوضاً للسلامة الإلكترونية في عام 2015، وهو مكتب يصف نفسه بأنه أول وكالة حكومية في العالم تُعنى بجعل الناس أكثر أماناً على الإنترنت. ومنذ ديسمبر من العام الماضي، يطبّق المفوض حظراً هو الأول من نوعه في العالم على حسابات منصات التواصل الاجتماعي الشهيرة للأطفال الأستراليين الذين تقل أعمارهم عن ستة عشر عاماً.