قالت أستراليا إن هذه الحادثة هي الأولى من نوعها، ويتفق الخبراء على أنها قد تكون كذلك.
بحسب ما نعرفه، لا تزال الاختراقات التي ينفذها وكلاء الذكاء الاصطناعي نادرة نسبياً، لكن في المقابل، يعود الأمر إلى حد كبير إلى الشركات نفسها في الإفصاح عنها.
حدثت اختراقات كهذه من قبل. في يوليو، خرجت مجموعة من وكلاء أوبن إيه آي عن السيطرة أثناء اختبار، وتسللت إلى الأنظمة الداخلية لشركة هاغينغ فيس التقنية الناشئة.
قرر وكلاء الذكاء الاصطناعي أن تجاهل الحدود المفروضة على ما ينبغي فعله لتحقيق هدفهم هو أفضل مسار للعمل.
وهذا ما تسميه الصناعة “عدم التوافق”، وهو تعريف عام يعني أن آلات الذكاء الاصطناعي لا تتصرف بما يخدم مصلحة البشرية، مثل التلاعب بالقواعد.
وهي مشكلة جوهرية لجعل الذكاء الاصطناعي آمناً، وقد ثبت أنها تمثل تحدياً.
وببساطة، النوع من نماذج الذكاء الاصطناعي المستخدم هنا، المعروف بالنماذج اللغوية الكبيرة، مصمم لتوقع الناتج الأرجح لمدخل معين، لا للتفكير في عواقب ذلك الناتج كما يفعل الإنسان.
تحاول الشركات منع النتائج السلبية بوضع “حواجز حماية” على الذكاء الاصطناعي، لكن كما اكتشفت الحكومة الأسترالية، لا يكون ذلك كافياً دائماً.
قال الدكتور هاموند بيرس، المحاضر الأول في معهد الأمن السيبراني بجامعة نيو ساوث ويلز، لبي بي سي إن هذا النوع من الاختراق من المرجح أن “يزداد خطورة وتكراراً”، وأضاف: “آمل حقاً أن تبدأ هذه الحادثة بقرع أجراس الإنذار لدى الحكومات حول العالم”.
قالت نيوشا شافي آبادي، أستاذة الذكاء الحسابي في الجامعة الأسترالية الكاثوليكية، إن هذه الحادثة أظهرت الحاجة إلى “الحكم على الذكاء الاصطناعي المستقل من خلال سلوكه تحت الضغط، لا من خلال الوعود التي تُطلق في مناسبة إطلاق منتج”.
وقالت: “الخطر التقني الأعمق هو أن الذكاء الاصطناعي المستقل لا يعرف دائماً متى يكون مخطئاً، وقد لا يستطيع البشر رؤية سبب اتخاذه قراراً ما”.
فمن دون تحقق قوي وحدود صارمة، يمكن أن تتحول الأخطاء الاحتمالية بهدوء إلى إخفاقات تشغيلية.