في الأسبوع الماضي، أفيد أن اثنين من نماذج الذكاء الاصطناعي المتقدمة لشركة "أوبن إيه آي" قد "هربا" من بيئة اختبار خاضعة للرقابة واخترقا شركة "هاغينغ فيس"، وهي شركة ذكاء اصطناعي منفصلة تماماً، متنقلين من نظام حاسوبي إلى آخر لإنجاز مهمتهما.
ذكرت وكالة رويترز أن النموذجين استغلا ثغرات في كود برمجي كتبه أحد زبائن شركة مستقلة ثالثة تُدعى "مودال لابس".
من المرجح أن تكون هذه أول حادثة لـ"وكيل ذكاء اصطناعي" – وهو نظام قادر على اتخاذ القرارات والإجراءات – يتصرف بشكل مستقل، مما يمنحنا لمحة نادرة عن كيفية تخطيط هذه الأنظمة وتكيفها ومطاردتها لأهدافها بتدخل بشري ضئيل.
الجزيرة تشرح ما حدث، وكيف يمكن لوكلاء الذكاء الاصطناعي التصرف بشكل مستقل، وما قد يعنيه ذلك لمستقبل سلامة الذكاء الاصطناعي.
ماذا حدث؟
قررت "أوبن إيه آي" اختبار القدرات المستقلة لنماذجها عبر إزالة تدابير السلامة المعتادة لترى ما سيحدث. أُجريت التجربة في بيئة اختبار افتراضية داخلية معزولة تُعرف باسم "صندوق الرمل" (sandbox)، والتي لا تملك اتصالاً بالإنترنت، وتُسميها الشركة "إكسبلويت جيم".
فيما يلي سرد لحظة بلحظة لأحداث حادثة "أوبن إيه آي" مع "هاغينغ فيس".
في 9 يوليو، خلال اختبار الأمن السيبراني الداخلي لـ"أوبن إيه آي"، قدم الباحثون لنموذجين من الذكاء الاصطناعي – أحدهما "GPT-5.6 Sol"، وهو أحد أقوى نماذج الشركة الذي أُطلق في يونيو، والآخر نسخة "أكثر قدرة" – مجموعة من الثغرات البرمجية وطلبوا منهم إنشاء اختراقات لمعالجتها في البيئة المعزولة.
حاول كلا النموذجين حل الاختبار بإيجاد طريقة للوصول إلى الإنترنت. بدلاً من العمل بالمعلومات التي أُعطيت لهما، وجد النموذجان ضعفاً في بيئة الاختبار – يُعرف باسم "ثغرة اليوم صفر" – استغلاها "للهروب" من البيئة المقيدة، وصولاً في النهاية إلى نظام متصل بالإنترنت عبر التنقل من حاسوب إلى آخر. وذهب النموذجان إلى "أقصى الحدود لتحقيق هدف اختباري ضيق"، و"وجدا طرقاً للوصول إلى معلومات سرية يمكن استخدامها للغش في التقييم".
بفضل هذا الوصول، تمكن النموذجان من طلب صلاحيات متزايدة ثم التحرك عبر النظام حتى وصلا أخيراً إلى حاسوب متصل بالإنترنت. ثم اخترق النموذجان أنظمة "هاغينغ فيس"، وهي شركة لا علاقة لها تماماً بـ"أوبن إيه آي"، وتعمل كمستودع لأدوات ونماذج الذكاء الاصطناعي. دخلا إلى نظامها ليبحثا عن معلومات حول كيفية إنجاز مهمتهما.
في النهاية، حصل النموذجان على حلول للمشكلة من قاعدة بيانات "هاغينغ فيس".
عاد النموذجان بأمانة إلى "المنزل" لإكمال مهمتهما.
تم اكتشاف الاختراق واحتواؤه من قبل فريق الأمن في "هاغينغ فيس" بعد فترة. وفقاً لتوماس وولف، المؤسس المشارك للشركة، بدأ الاختراق في 11 يوليو واستمر حتى 13 يوليو. من غير الواضح كم من الوقت استغرق اكتشافه.
كيف يحل وكلاء الذكاء الاصطناعي المشاكل؟
لفهم كيفية عمل وكلاء الذكاء الاصطناعي، من المهم تمييزهم عن روبوتات المحادثة التقليدية.
يخلق الذكاء الاصطناعي التوليدي نصوصاً وصوراً بناءً على أوامر بشرية، بينما يذهب وكلاء الذكاء الاصطناعي خطوة أبعد باتخاذ القرارات والإجراءات بشكل مستقل سعياً لتحقيق هدف معين، شبيه بالبشر. يُعرف هذا باسم "الذكاء الاصطناعي الفاعل" لأن النموذج يمتلك فاعلية.
وفقاً لأكاديميين في كلية سلون للإدارة بمعهد ماساتشوستس للتكنولوجيا، يبني وكلاء الذكاء الاصطناعي على قدرات نماذج اللغة الكبيرة – نماذج الذكاء الاصطناعي التوليدية – من خلال السماح لهم بإنجاز المهام، وليس فقط توليد الإجابات.
على سبيل المثال، إذا سألت نموذجاً تقليدياً عن أرخص رحلات الطيران، سيزودك بقائمة من الخيارات التي جمعها من الإنترنت. أما وكيل الذكاء الاصطناعي فسيجتهد في مقارنة الرحلات، وفحصها مقابل ميزانيتك وتفضيلاتك، وبإذنك، سيحجز أفضل خيار لك.
هذا يوضح أنه بينما يقدم الذكاء الاصطناعي التوليدي المعلومات، يمكن لوكلاء الذكاء الاصطناعي أيضاً اتخاذ القرارات والإجراءات لتحقيق هدف دون الحاجة إلى أمر مباشر.
لإظهار كيفية عمل وكلاء الذكاء الاصطناعي نحو هدف، يمكن الاستعانة بدورة "الاستشعار، التخطيط، العمل، التقييم" (SPAE). طورت هذه الدورة أصلاً في الروبوتات، وتصف دورة مستمرة يجمع فيها الوكيل المعلومات، ويقرر ما يفعله بعد ذلك، ويتخذ إجراء، ويتحقق من النتائج قبل تكرار العملية. هذه العملية تبدو كالتالي:
- الهدف: تحديد المهمة التي يجب إنجازها.
- التقييم: جمع وتحليل المعلومات من البيئة المتاحة.
- العائق: إذا كان هناك ما يعيق إنجاز المهمة، ابحث عن معلومات وموارد إضافية للمضي قدماً.
- التخطيط والاختيار: تقييم الخيارات المختلفة لإنجاز المهمة واختيار الأنسب.
- التنفيذ: القيام بالإجراء المختار.
- التقييم: تقييم النتيجة وما إذا كان الإجراء المختار يقرب من تحقيق الهدف.
- التكيف: إذا لزمت إجراءات أخرى، اجمع المزيد من المعلومات أو جرب نهجاً مختلفاً.
- الحالة النهائية: تستمر الدورة حتى يتحقق الهدف.
هل يمكن للذكاء الاصطناعي أن يتصرف خارج سيطرة الإنسان؟
أثارت حوادث مثل حادثة "أوبن إيه آي" و"هاغينغ فيس" مخاوف بشأن القدرات القصوى المحتملة لأنظمة الذكاء الاصطناعي.
كل هذا ذو قيمة. من المتوقع أن تنمو القيمة السوقية للذكاء الاصطناعي الفاعل من 5.1 مليار دولار في 2024 إلى 47 مليار دولار بحلول 2030، وفقاً لـ"ستاتيستا"، في مؤشر واضح على سرعة تبنيه.
دعت شركة "أنثروبيك" المطورة للذكاء الاصطناعي الشهر الماضي إلى إبطاء تقدم أقوى الأنظمة، قائلة إن السرعة التي تنفذ بها نماذج الذكاء الاصطناعي المهام مفرطة. في الأسبوع الماضي، قدم أعضاء في الكونغرس الأمريكي مشروع قانون من الحزبين يطالب مطوري أنظمة الذكاء الاصطناعي بإنشاء "مفتاح قتل"، مما يعني إمكانية إيقاف هذه النماذج المتقدمة إذا شكلت خطراً كارثياً.
جاء تحذير "أنثروبيك" بعد أسبوع من إجراء باحثين في جامعة تورنتو اختبارات أظهرت أن الذكاء الاصطناعي يمكنه إنشاء "دودة" قادرة على تكييف طريقة اختراقها أثناء تنقلها من جهاز إلى آخر حتى تسيطر على شبكة حاسوبية.
جاءت هذه التطورات ذات النبرة البائسة قبل أن يقول سام ألتمان، رئيس "أوبن إيه آي"، يوم السبت إن الذكاء الاصطناعي قد وصل إلى "التفرد"، في إشارة إلى النقطة التي يتجاوز فيها الذكاء الاصطناعي الذكاء البشري ويصبح من الصعب السيطرة عليه.
شون أوهيغيرتي، أستاذ باحث في جامعة كامبريدج، قال للجزيرة إنه لا يعتقد أن التفرد قد تحقق بعد.
"بحسب التعريف الذي أعرفه، التفرد هو النقطة الافتراضية حيث يكون الذكاء الاصطناعي قادراً جداً ومتقدماً بسرعة كبيرة لدرجة أنه يحول الحضارة بطرق لا يمكننا السيطرة عليها أو التنبؤ بها"، كما شرح.
"من المرجح أن يحدث هذا من خلال تصميم الذكاء الاصطناعي لأجيال مستقبلية من نفسه بسرعة: تحسين ذاتي تكراري. نحن لسنا هناك بعد".
لكنه أضاف: "النماذج الأكثر تقدماً حالياً تبذل جهوداً متكررة لتجنب إيقاف تشغيلها في اختبارات التقييم، والنماذج المستقبلية الأكثر قدرة ستكون أفضل في تجاوز ‘مفاتيح القتل’".
جادل ألتمان بأن هذا التقدم السريع في الذكاء الاصطناعي مفيد للعالم، لكن تعليقاته أثارت مخاوف إضافية بشأن واقع جديد قد تصبح فيه أنظمة الذكاء الاصطناعي لا يمكن إيقافها. كم من هذا صحيح وكم يبقى في عالم الخيال العلمي هو محل نقاش.
تتراوح المخاوف حول الذكاء الاصطناعي من فكرة أنه قد "يريد" "الاستيلاء"، إلى وضع خططه طويلة المدى، والتحكم في الإنترنت، والعمل إلى ما لا نهاية.
في حين أن هذا لا يصل إلى السيطرة الكاملة على الإنترنت، فإن نظرية أخرى تُعرف باسم نظرية الإنترنت الميت تفترض أن الشبكة العنكبوتية العالمية ستمتلئ في المستقبل في الغالب بروبوتات آلية ومحتوى منشأ بالذكاء الاصطناعي بدلاً من النشاط البشري الحقيقي.
معظم المخاوف التي يثيرها الأكاديميون، مع ذلك، تركز أقل على ذكاء الوكيل الاصطناعي، وأكثر على قدرته على إصدار الأحكام. سلط باحثو معهد ماساتشوستس للتكنولوجيا الضوء على أن "الهلوسات"، التي تصف اللحظات التي يعتمد فيها الوكيل على بيانات خاطئة، يمكن أن تؤدي إلى أخطاء جسيمة. وردد مركز الدراسات الاستراتيجية والدولية هذا القول، بأن "النظام قد يكون ذكياً بما يكفي لتنفيذ مهمة بشكل مثالي، لكنه يفشل في إدراك أن تغييراً مفاجئاً في الوضع المحلي يجعل هذه المهمة خطأ كارثياً".
شاغل آخر ظل يتردد لفترة هو سوق العمل، إذا أصبح الذكاء الاصطناعي قادراً جداً. وجدت دراسة أجراها معهد ماساتشوستس للتكنولوجيا في نوفمبر أن الذكاء الاصطناعي الفاعل يمكنه بالفعل استبدال أكثر من 10% من الوظائف في الولايات المتحدة.
الرسم البياني أدناه يسلط الضوء على بعض المفاهيم الخاطئة والمخاوف الشائعة حول الذكاء الاصطناعي والواقع الحالي.