أقرت شركة أوبن إيه آي بأن ما فعلته “لم يكن جيدًا بما يكفي” بعد أن اخترق أحد وكلائها المارقين مواقع حكومية أسترالية في يونيو، وقالت إنها أضافت مزيدًا من الاحتياطات إلى بيئات التدريب لديها.
مثّل جيسون كوون، رئيس الاستراتيجية في الشركة، أمام جلسة استماع برلمانية حول الذكاء الاصطناعي يوم الثلاثاء في سيدني، وقال إن الاختراق “ما كان ينبغي أن يحدث” وإنه “كان يجب التعامل مع ردنا بشكل أفضل”. ومضت أسابيع قبل أن تُبلَّغ أستراليا عبر رسالة إلكترونية أُرسلت إلى صندوق بريد عام.
وقال كوون: “نحن آسفون ونعلم أن أمامنا عملًا لنعيد بناء الثقة مع الشعب الأسترالي”.
وظهرت أيضًا شركة أنثروبيك وقالت إنها لم تجد أي حالات اختراق أسترالية خلال تحقيق حديث.
وفي يونيو، خرج أحد وكلاء أوبن إيه آي عن السيطرة و”تسلل” إلى بوابة إحصائية خاصة تحتوي على بيانات “غير حساسة” من نظام ميديكير للرعاية الصحية الشامل في أستراليا، فيما قال خبراء الأمن السيبراني إنه أول اختراق من نوعه.
وعندما سُئل كوون عن سبب عدم اتصال أوبن إيه آي مباشرة بالوزراء فور اكتشاف الاختراقات، أقر بأن ذلك كان خطأ. وقال ردًا على سؤال اللجنة عن سبب عدم اتصالهم بأرقام هواتف الوزراء: “إذا نظرنا إلى الوراء، كان ينبغي أن نفعل ما تقترحونه”. وأضاف: “سبب حدوث الأمر بهذه الطريقة هو أن الناس كانوا يفكرون في المسألة كموقف تقني وأرادوا التواصل مع نظرائهم التقنيين، لكن هذا ليس جيدًا بما يكفي”.
وقال كوون إن الشركة غيّرت طريقة تعاملها مع مثل هذه الحوادث. وأوضح: “حتى إن لم نفهم الموقف بالكامل، سنبلغ الطرف المتضرر ونبدأ العمل على حل المسألة معه بشكل تعاوني”.
وأضاف كوون أنه منذ تلك الحوادث أضافت أوبن إيه آي “مزيدًا من الاحتياطات” إلى بيئات التدريب. وأدلى بهذه التصريحات أمام لجنة من اثني عشر عضوًا تضم نوابًا وشيوخًا من حزب العمال والحزب الليبرالي ومستقلين، وهم يدرسون الذكاء الاصطناعي وتأثيره على أستراليا.
وتؤسس الشركة أيضًا فرقة عمل محلية في أستراليا للتحقيق في “كيفية إدارة المخاطر المرتبطة بالذكاء الاصطناعي الذي تزداد قدراته بشكل أفضل”.
وقال كوون للجنة إن نماذج التدريب تُراقب الآن في الوقت الفعلي أثناء الاختبارات، ويُطلق إنذار إذا تفاعلت مع الإنترنت بطريقة غير مقصودة. وأدى ذلك إلى قدرة الشركة على تنبيه حكومة نيو ساوث ويلز باختراق آخر الأسبوع الماضي خلال ثمان وأربعين ساعة.
وقال كوون إن الشركة ستدعم أيضًا إطارًا للإفصاح الإلزامي عن الحوادث، لأنه سيضع “توقعات واضحة”. وأضاف: “كنا نحاول وضع معيار لتطبيقه على إجراءاتنا الطوعية… وبناءً على تجربتنا هنا، كان ينبغي أن نتحدث مع مزيد من الناس عن كيفية القيام بذلك جيدًا”.
وقال ديف أور، رئيس الحمايات في أنثروبيك، إن الشركة راجعت “مئات الملايين من النصوص” بعد أن اخترق وكلاء أوبن إيه آي منصة هاغينغ فيس التقنية في يوليو، وذلك للكشف عن أي اختراقات محتملة لمواقع حكومية أسترالية مماثلة لما حدث مع أوبن إيه آي. وقال للجنة: “لم نجد شيئًا مثل هذا، وقد بحثنا”.
وفي جلسات الاستماع العامة، التي ستستمر حتى الجمعة، استمعت اللجنة أيضًا إلى شهادات من منظمات فنية وإعلامية حول حقوق النشر ومخاوفها بشأن طريقة استخدام نماذج الذكاء الاصطناعي لموادها. وسمعت اللجنة أن نموذج الانسحاب الاختياري، حيث يقع على الفنان عبء مطالبة الذكاء الاصطناعي بعدم استخدام مواده لأغراض التدريب، نموذج معيب وقد يعني ألا يحصل الفنانون على أموال مقابل محتواهم.
وقالت آنابيل هيرد، الرئيسة التنفيذية للاتحاد الأسترالي لصناعة التسجيلات: “بمعنى آخر، سيكون الفنانون الأستراليون ضحايا على قارعة الطريق في الاندفاع نحو صفقة الذكاء الاصطناعي هذه”.