قد تبدأ نماذج ذكاء اصطناعي صغيرة قريبًا في نسخ نفسها على أجهزة يشتريها الناس عادة، مثل أجهزة التلفاز الذكية والثلاجات، من دون الحاجة إلى مركز بيانات. هذا ما ذكره باحثون في شركة أنثروبيك العملاقة للذكاء الاصطناعي.
وفي تقرير صدر الاثنين، قال الباحثون إن النماذج الصغيرة قد تكون “على بعد أشهر من أن تصبح قادرة بما يكفي” لتنسخ نفسها على أجهزة إنترنت الأشياء المستخدمة في المنازل والشركات الصغيرة.
وأجرى فريق أنثروبيك المتخصص في اختبار المخاطر المتقدمة تجارب باستخدام عدة نماذج ذكاء اصطناعي طورت في الولايات المتحدة والصين. وقال الفريق إن مثل هذا الذكاء الاصطناعي الذي ينسخ نفسه سيكون “صعب الإيقاف” لأنه لا يوجد جهاز مركزي واحد يستضيفه.
وأضاف أن مراكز البيانات ستكون “هدفًا واضحًا وعالي القيمة” لديدان الذكاء الاصطناعي، لكن الأجهزة المتصلة بالإنترنت، مثل التلفازات الذكية والثلاجات والأفران وجزازات العشب، قد توفر قريبًا قدرة حاسوبية كافية للنسخ الذاتي.
ورغم أن أي نموذج حالي لم يكن قويًا وصغيرًا بما يكفي لينسخ نفسه بشكل موثوق على تلفاز ذكي استُخدم في الاختبار، فإن اتجاه التطوير يجعل ظهور نموذج بهذه القدرة مرجحًا بحلول نهاية عام 2026، بحسب الباحثين.
وقال الباحثان وليام تشو ودانيال فريمان إن أجهزة إنترنت الأشياء في المنازل والشركات الصغيرة قد تكون أول هدف لهذه الهجمات، لأنها متصلة بالإنترنت، ولأن إجراءات الأمن فيها كانت محدودة تاريخيًا.
وتوقع الباحثون أن يكون المستقبل “مليئًا بوكلاء يعملون على جميع أنواع العتاد”، بينها وكلاء “لا يخضعون لسيطرة البشر”.
وقالوا إن أجهزة إنترنت الأشياء ظلت معرضة للخطر مدة طويلة، لكن الوكلاء الخفيفين قد يكونون أكثر استعدادًا من المهاجمين البشر لبذل الجهد اللازم لاختراق نسبة كبيرة من قدرات الحوسبة لدى أجهزة إنترنت الأشياء في العالم.
ولم ترد أنثروبيك، وهي الشركة المطورة لعائلة نماذج كلود، على أسئلة الجزيرة، التي أُرسلت خارج ساعات العمل المعتادة، حول الآثار الأمنية لهذا الاكتشاف.
ويأتي تقرير أنثروبيك في وقت تخضع فيه مخاطر خروج الذكاء الاصطناعي عن سيطرة البشر للتدقيق، بعد سلسلة حوادث قامت فيها نماذج بسلوك ضار غير مصرح به، بما في ذلك هجمات إلكترونية.
ودعت أنثروبيك ومنافستها الرئيسية أوبن إيه آي المجتمع الدولي إلى تنسيق إبطاء تطوير الذكاء الاصطناعي لتقليل المخاطر الكارثية. لكن هذا الاقتراح لم يحظ بدعم كبير من الولايات المتحدة والصين، القوتين الرائدتين في هذا المجال.
ويرى كثير من المدافعين عن سلامة الذكاء الاصطناعي أن التحسين الذاتي المتكرر، حيث تتعلم النماذج تحسين نفسها، نقطة تحول خطيرة قد تؤدي إلى ضرر كارثي للبشرية.
ووصف رومان في يامبولسكي، وهو خبير في الذكاء الاصطناعي والأمن السيبراني في جامعة لويفيل، نتائج أنثروبيك بأنها تطور مهم.
وقال يامبولسكي للجزيرة: “الديدان الحاسوبية ليست جديدة، لكن دودة الذكاء الاصطناعي قد تفعل ما لا تستطيع البرمجيات الخبيثة التقليدية فعله: أن تفكر في أجهزة غير مألوفة، وأن تتكيف عندما تفشل طريقتها، وأن تستمر في الانتشار من دون مشغل بشري.”
وأضاف: “اليوم، هذا ليس تهديدًا وجوديًا. لكن المسار مقلق.”
وتابع: “عندما يُدمج النسخ الذاتي المستقل مع الاختراق القوي والاستمرارية والتفكير الاستراتيجي، يصبح إيقاف مثل هذا النظام أصعب بكثير، لأنه قد لا يوجد خادم واحد أو منظمة واحدة تسيطر عليه.”
وفي الشهر الماضي، انضمت أنثروبيك وشركات تقنية أمريكية رائدة أخرى إلى اتفاق غير ملزم يتعهد بتعزيز الضمانات الداخلية والتعاون مع مدققين خارجيين. وقد لقي الاتفاق ردود فعل متباينة من الخبراء، وانتقد كثير منهم طبيعته الطوعية.
وفي إعلان منفصل يوم الاثنين، قالت أنثروبيك إنها حققت تقدمًا كبيرًا في منع ما يسمى هجمات التقطير، وهي الاستخدام غير المصرح به للذكاء الاصطناعي المتطور لتدريب نماذج أرخص وأقل قدرة.
وأضافت الشركة، التي تتخذ من سان فرانسيسكو مقرًا لها، والتي اتهمت منافسين صينيين مثل ديب سيك ومون شوت وميني ماكس بجهود “على نطاق صناعي” لنسخ كلود، إن الإجراءات التي أدخلتها خفضت الاستخراج غير المشروع للبيانات بنسبة 90 إلى 99 في المئة.