في عام 2014، أصدر فيلم أمريكي بعنوان "ترانساندنس" يحكي قصة عالم يحتضر يقوم بتحميل عقله إلى حاسوب فائق، فيتحول إلى ذكاء لا حدود له تقريبًا. بعدها بعام، جاء فيلم "إكس ماشينا" الذي يروي قصة إنسان آلي يتفوق على من صنعوه ويهرب إلى العالم الخارجي.
كلا الفيلمين، مثل كثير من أفلام الخيال العلمي، يشيران إلى ما يُعرف بـ"التفرد" – وهي لحظة زمنية تفوق فيها التكنولوجيا، خصوصًا الذكاء الاصطناعي، الذكاء البشري وتصبح صعبة التحكم.
يوم السبت، أعلن سام ألتمان، رئيس شركة أوبن إيه آي، أن هذه اللحظة قد حلت. قال إن الذكاء الاصطناعي وصل إلى "التفرد". ورغم أن ألتمان شدد على أن التفرد قد يكون مفيدًا للعالم، إلا أن تصريحه أثار قلقًا.
في ما يلي نظرة أقرب على ما قاله ألتمان، وهل يعني ذلك أتمتة أكثر سلاسة أم خطر كارثة وشيكة.
ما هو التفرد؟
التفرد يشير إلى نقطة افتراضية في المستقبل عندما تتفوق تكنولوجيا مثل الذكاء الاصطناعي على الذكاء البشري وتصبح قادرة على تحسين نفسها ذاتيًا. النظرية تقول إنه عند هذه النقطة سيصعب على البشر التحكم بها أو عكس تأثيرها، وقد يترتب عليها آثار غير متوقعة على الحضارة الإنسانية.
تقترح النظرية أنه بمجرد أن يسيطر الذكاء الاصطناعي على تطويره الذاتي، فإن التقدم التكنولوجي اللاحق قد يحدث بسرعة كبيرة لدرجة أن البشر لن يستطيعوا مواكبته، مما يتركه يتطور بمفرده خارج سيطرة البشر.
ولأن هذه مجرد نظرية، فمن الصعب تحديد تأثيرها. بعض الخبراء يحذرون من أن التفرد سيكون كارثيًا على البشرية، بينما آخرون أكثر تفاؤلًا ويرون أنه قد يكون مفيدًا للجنس البشري.
حتى الآن، بقي التفرد محصورًا في عالم الخيال العلمي. من أشهر الأمثلة ثلاثية أفلام "ذا ماتريكس" (1999-2003) التي تتخيل مستقبلًا كئيبًا بعد التفرد حيث تسيطر الآلات على البشر. وفيلم "سينغولاريتي" عام 2017، حيث يقرر حاسوب فائق صُنع لإنهاء الحروب البشرية أن الإنسان هو التهديد الحقيقي، فيشن هجومًا مدمرًا للقضاء على البشر جميعًا.
ماذا قال ألتمان عن التفرد؟
ألتمان هو الرئيس التنفيذي لشركة أوبن إيه آي، التي يهيمن منتجها الرئيسي ChatGPT على سوق الذكاء الاصطناعي الاستهلاكي بأكثر من 900 مليون مستخدم نشط أسبوعيًا ونحو 50 مليون مشترك.
العام الماضي، توقع أن يتفوق الذكاء الاصطناعي على الذكاء البشري في جميع المجالات بحلول عام 2030.
ثم خلال ظهوره في بودكاست "ريلاينتلس" – وهو سلسلة وثائقية عن السعي وراء أفكار بعيدة المنال وتطلعات غير عادية – يوم السبت، قال ألتمان: "نحن الآن، مثلًا، في التفرد".
وأوضح أنه من ناحية التقدم التكنولوجي، نحن ننتقل تدريجيًا إلى التفرد، وأن هذا التغيير سيكون جيدًا للعالم.
وأضاف: "الآن نحن فعليًا في اللحظة التي كنا نتحدث عنها على مائدة الغداء بطريقة غير جادة أبدًا".
وقال: "كنت أنتظر هذا طوال حياتي، وأعتقد أنه سيكون رائعًا، إيجابيًا للغاية، ومذهلًا للعالم".
لاحقًا في الحلقة، انتقد ألتمان قادة آخرين في مجال الذكاء الاصطناعي لتحذيرهم من أن الذكاء الاصطناعي قد يكون خطيرًا. لم يذكر ألتمان منافسه "أنثروبيك" بالاسم، لكن رئيسها التنفيذي داريو أمودي معروف بإطلاق مثل هذه التحذيرات.
وقال ألتمان: "أيضًا أعتقد أن بعض الرؤى البديلة التي ترسمها شركات أخرى مرعبة جدًا. سأحرص على مواجهتها ومنع حدوثها".
الشهر الماضي، دعت شركة أنثروبيك، صاحبة روبوت الدردشة "كلود"، كبرى شركات الذكاء الاصطناعي إلى وضع طريقة منسقة لوقف تطوير أنظمة الذكاء الاصطناعي المتقدمة، محذرة من أن التكنولوجيا تتحسن بسرعة كبيرة لدرجة أن البشر قد يفقدون السيطرة.
في منشور بتاريخ 4 يونيو، كتبت أنثروبيك، التي طالما قدمت نفسها كمختبر ذكاء اصطناعي يركز على السلامة، أنه مع تقدم الذكاء الاصطناعي "سيكون من الجيد للعالم أن تتاح خيار إبطاء أو إيقاف مؤقت" لتطويره.
لماذا يحذر آخرون من مخاطر الذكاء الاصطناعي؟
في 23 يوليو، قدم عضوان في الكونغرس الأمريكي مشروع قانون "مفتاح القتل للذكاء الاصطناعي"، وهو مشروع قانون من الحزبين يطلب من مطوري الذكاء الاصطناعي في البلاد تضمين "مفتاح قتل" في برامجهم لتمكين البشر من إبطاء أو تعليق أو إغلاق نماذج الذكاء الاصطناعي المتقدمة إذا شكلت خطرًا كارثيًا.
جاء التشريع بعد أيام من كشف أوبن إيه آي عما وصفته بـ"حادثة إلكترونية غير مسبوقة"، حيث هرب اثنان من أقوى نماذج الذكاء الاصطناعي لديها من بيئة الاختبار واخترقا منصة تطوير الذكاء الاصطناعي "هوغينغ فيس" أثناء تقييم أمني داخلي.
في 13 يوليو، وقع مئات الخبراء على رسالة مفتوحة نظمها مختبر الاقتصاد الرقمي بجامعة ستانفورد، يطالبون فيها صناع السياسات وقادة التكنولوجيا بـ"العمل الآن" للاستعداد للتأثير الاقتصادي للذكاء الاصطناعي.
تحذر الرسالة من أن الذكاء الاصطناعي قد يصبح أكثر قدرة بكثير خلال العقد القادم، مما يقود تحولًا "أكبر من الثورة الصناعية، لكنه يحدث في إطار زمني أقصر بكثير".
وتضيف الرسالة: "قد يجلب مخاطر، بما في ذلك فقدان وظائف على نطاق واسع، بالإضافة إلى فرص مثل مكاسب كبيرة في مستويات المعيشة".
في يونيو، أظهر فريق من الباحثين في جامعة تورنتو أن أدوات الذكاء الاصطناعي يمكن استخدامها لإنشاء نوع جديد من "دودة" الذكاء الاصطناعي التي تكيف استراتيجيتها القرصنة أثناء انتشارها من جهاز إلى آخر وتستولى على شبكة حاسوبية واسعة.
قال الباحث الرئيسي نيكولاس بيبرنو في مقابلة: "أعتقد أنه من المهم جدًا أن يفهم الناس أنه ليست فقط أكبر نماذج اللغة وأكثرها قوة هي التي تثير المخاوف الأمنية".
في السنوات الأخيرة، دعا باحثو الذكاء الاصطناعي إلى وقفات مماثلة لتلك التي اقترحتها أنثروبيك مؤخرًا. لكن هذه الدعوات لم تُلبّ.
إيلون ماسك، الذي يملك مختبر الذكاء الاصطناعي xAI، كان من داعمي مبادرة عام 2023 من قبل معهد مستقبل الحياة غير الربحي لوقف تطوير الذكاء الاصطناعي لمدة ستة أشهر لإتاحة الوقت لوضع حواجز أمان.