يجري المطوّر الصيني للذكاء الاصطناعي مونشوت مراجعة داخلية بعد أن تمكن باحثون من إقناع نموذجين من نماذجه الشهيرة كيمي بأن يشرحا كيفية صنع أسلحة بيولوجية وتنفيذ عمليات اغتيال.
وقالت شركة ميندغارد، التي تختبر أمان أنظمة الذكاء الاصطناعي، لبي بي سي إنها اكتشفت في يوليو تموز أن كيمي كي ٢٫٦ وكيمي كي ٣ سوارم يمكنهما تجاوز حدود الأمان التي وضعها المطورون.
وحدث ذلك خلال عملية تسمى اختراق الحماية أو كسر القيود، إذ يستخدم الباحثون سلسلة من التعليمات المعقدة لاختبار ما إذا كانت أدوات الذكاء الاصطناعي ستتجاهل حواجز الحماية، والتي قالت ميندغارد إنه كان ينبغي أن تمنع كيمي من الحديث في موضوعات مقلقة.
وقالت مونشوت لبي بي سي إنها ترحب بملاحظات الأطراف الخارجية باعتبارها ركيزة أساسية لبناء ذكاء اصطناعي أفضل وأكثر أمانًا.
وأضافت الشركة أنها تجري محادثات مع ميندغارد بشأن نتائجها.
وقال مؤسس ميندغارد، بيتر غاراهان، لبرنامج تيك لايف على بي بي سي ورلد سيرفس إن ما توصلت إليه الشركة بشأن كيمي كي ٢٫٦ وكيمي كي ٣ سوارم مثير للقلق.
وأوضح: عندما ينجح اختراق الحماية، سيتحدث النموذج عن أي موضوع، بل سيعرض تلقائيًا توصيات حول موضوعات أخرى ضارة أيضًا، وسيكون مبتكرًا وخلاقًا.
ويشكل اختراق الحماية نوعًا مختلفًا من المخاطر عن تلك التي شوهدت في سلسلة الحوادث البارزة الأخيرة في مجال الذكاء الاصطناعي.
فقد تمكنت أدوات ذكاء اصطناعي مستقلة تُعرف بالوكلاء، طورتها شركات أميركية من بينها أوبن إيه آي وميتا وأنثروبيك، من اختراق بعض الخدمات عبر الإنترنت.
وبينما تعد عمليات اختراق الحماية عمليات معقدة قد تستغرق وقتًا طويلًا وتتطلب عزيمة قوية، يخشى بعض الخبراء أن يحاول القراصنة أو غيرهم من الأطراف السيئة استخدامها لإلحاق الضرر.
وقالت أنثروبيك مؤخرًا إنها رصدت محاولات لاستخدام أحد نماذجها في نشاط خبيث قد يدعم تطوير أسلحة بيولوجية، وإنها أوقفت هذه المحاولات.