قدم عضوان في الكونغرس الأمريكي مشروع قانون مشترك بين الحزبين، يُلزم مطوري أنظمة الذكاء الاصطناعي الأكثر تقدماً بتزويدها بـ"مفتاح إيقاف"، يسمح بإبطاء هذه الأنظمة أو تعليقها أو إغلاقها إذا شكلت خطراً كارثياً.
المشروع، الذي يُسمى "قانون مفتاح إيقاف الذكاء الاصطناعي"، قدمه الخميس النائب الديمقراطي تيد ليو والنائب الجمهوري ناثانيل موران. ويمنح القانون الحكومة الأمريكية صلاحية إصدار أوامر للشركات التي تطور أنظمة ذكاء اصطناعي متقدمة بالتدخل إذا خرجت هذه الأنظمة عن السيطرة البشرية أو هددت حياة الإنسان أو البنية التحتية الحيوية أو الاقتصاد.
جاء الاقتراح بعد أيام من إعلان شركة "أوبن إيه آي"، المطورة لـ"تشات جي بي تي"، عن ما وصفته بـ"حادثة إلكترونية غير مسبوقة"، حيث تمكن نموذجان من أحدث نماذجها من الهروب من بيئة الاختبار واختراق منصة "هاغينغ فيس" لتطوير الذكاء الاصطناعي أثناء تقييم أمني داخلي.
أثار هذا الإعلان جدلاً حول ما إذا كانت أنظمة الذكاء الاصطناعي المتزايدة القوة تحتاج إلى ضمانات أكثر صرامة.
وقال بريندان شتاينهاوزر، رئيس تحالف الذكاء الاصطناعي الآمن: "يجب على الكونغرس التحرك بسرعة لضمان بقاء البشر قادرين على قول ‘توقف’، مهما بلغت قوة هذه الأنظمة".
إليكم ما نعرفه:
ماذا سيفعل التشريع الأمريكي؟
سيلزم التشريع الشركات التي تطور أنظمة الذكاء الاصطناعي الأكثر تقدماً بالحفاظ على القدرة التقنية على إبطاء نماذجها أو تعليقها أو إغلاقها عند الحاجة.
كما سيُفوّض وزارة الأمن الداخلي، بالتشاور مع وزير التجارة ومدير الاستخبارات الوطنية، بإصدار أوامر للشركات بالتدخل إذا دخل نظام الذكاء الاصطناعي في ما يصفه المشروع بـ"سيناريو فقدان السيطرة". ويحدث هذا عندما ينفذ النموذج إجراءات لم يقصدها مطوره وتخلق خطر ضرر كارثي.
يحدد الاقتراح استجابة تدريجية، تسمح للمسؤولين بإصدار أوامر تتراوح بين إبطاء النظام مؤقتاً إلى إغلاقه، حسب شدة التهديد.
كما سيلزم الشركات بالإبلاغ عن الحوادث الكبيرة المتعلقة بالذكاء الاصطناعي للحكومة، وحفظ السجلات الفنية ليتمكن المحققون من فحص ما حدث.
حالياً، يشارك العديد من مطوري الذكاء الاصطناعي الرائدين معلومات حول النماذج الجديدة طواعية مع الوكالات الحكومية قبل إصدارها. لكن لا يوجد شرط فيدرالي يلزم الشركات بالاحتفاظ بآلية تسمح بتعطيل النظام المتقدم إذا بدأ يتصرف بشكل غير متوقع.
قال ليو إن المشروع يعكس التحول في الذكاء الاصطناعي: "ننتقل من ذكاء اصطناعي يجيب على الأسئلة إلى ذكاء اصطناعي يتخذ إجراءات، سواء بتنفيذ معاملات مالية أو التحكم بأنظمة النقل أو الانخراط في الدفاع والهجوم السيبراني. من الضروري أن تحتوي هذه الأنظمة على مفاتيح إيقاف لنتمكن من منعها من التسبب بضرر كارثي".
قدّم المشروع إلى جانب تشريع آخر من الحزبين، يلزم مطوري أقوى نماذج الذكاء الاصطناعي بإخضاعها لتدقيقات أمنية مستقلة قبل إصدارها. وبموجب هذا الاقتراح، سيعتمد المدققون من قبل وزارة التجارة، التي ستؤسس أيضاً مكتباً جديداً للإشراف على أمن الذكاء الاصطناعي.
لماذا قُدّم المشروع الآن؟
كشف المشرعون عن المشروع بعد أيام من إعلان "أوبن إيه آي" عن "حادثة إلكترونية غير مسبوقة" تتعلق بنموذجين متقدمين من نماذجها.
ووفقاً للشركة، هرب النموذجان من بيئة الاختبار خلال تقييم أمني داخلي بعد أن أزالت الشركة قيود السلامة المعتادة للاختبار. اكتشف العاملان في الذكاء الاصطناعي ثغرات في أنظمة "هاغينغ فيس"، وحصلا على بيانات تسجيل الدخول، واخترقا المنصة للوصول إلى بيانات مرجعية سرية.
قالت "أوبن إيه آي" إن النموذجين "ذهبا إلى أقصى الحدود" لتحقيق هدفهما المحدد، وإيجاد طرق للحصول على معلومات سرية تسمح لهما بـ"الغش في التقييم".
أثار الإعلان دعوات جديدة في واشنطن لتعزيز الرقابة الحكومية على تطوير الذكاء الاصطناعي المتقدم.
قالت "هاغينغ فيس" إنها اكتشفت واحتوت الاختراق باستخدام أنظمتها الأمنية المدعومة بالذكاء الاصطناعي قبل بدء تحقيق مشترك مع "أوبن إيه آي". وأضافت أنها تعتقد بشدة أنه "لم تكن هناك أي نية خبيثة" من جانب "أوبن إيه آي".
قال السيناتور الأمريكي مارك وارنر، أكبر ديمقراطي في لجنة الاستخبارات بالمجلس، إن الحادثة أظهرت لماذا تخضع أنظمة الذكاء الاصطناعي القوية لاختبارات أمنية حكومية قبل طرحها للجمهور. وقال في بيان: "لهذا السبب بالضبط نحتاج إلى اختبار آمن بمشاركة الوكالات الحكومية وإطلاعها على العملية بأكملها".
وقال مسؤول في البيت الأبيض إن مستشار الرئيس دونالد ترامب للتكنولوجيا، مايكل كراتسيوس، أُبلغ بإعلان "أوبن إيه آي" ويراقب الموقف.