تحذيرات من الذكاء الاصطناعي تصل إلى واشنطن
أطلق باحثون حاليون وسابقون في مجال الذكاء الاصطناعي في الولايات المتحدة تحذيرات شديدة من أن هذه التقنية قد تؤدي قريبًا إلى انقراض البشر، وهو ما لفت انتباه المشرعين في واشنطن.
وجاء أحدث تحذير في منشور طويل على وسائل التواصل الاجتماعي كتبه جيكوب كوكسون، وهو باحث مقيم في سان فرانسيسكو، أعلن فيه استقالته من شركة أنثروبيك مساء الثلاثاء.
وقال كوكسون إن الأشخاص الذين يبنون الذكاء الاصطناعي يعتقدون بصدق أنه قد يقتل الجميع قبل نهاية هذا العقد. وأضاف أن الأمر ليس حيلة تسويقية، بل إن كثيرًا من التنفيذيين وكبار الباحثين يصوغون كلامهم أمام الصحافة ليبدو معقولًا، لكنه يسمع الشخص نفسه يعبر عن الخوف. وقد أثار منشوره سيلًا من الردود من خبراء ذكاء اصطناعي أطلقوا بدورهم ناقوس الخطر.
ورَدّد إيفان هوبينغر، وهو قائد حالي في علوم المحاذاة في أنثروبيك، كلامه قائلًا إنهم يعتقدون بصدق أن الذكاء الاصطناعي قد يقتل كل البشر. وقال إنه يعتقد شخصيًا أن الاحتمال يتجاوز 10 في المئة خلال العقد المقبل، وإن أنثروبيك تبذل قصارى جهدها، لكن لا توجد بعد خطة لحل مشكلة المحاذاة من أجل الذكاء الفائق، ولسنا على المسار الصحيح بوضوح.
ورفض كوكسون طلب الجزيرة لإجراء مقابلة، ولم يرد هوبينغر.
كيف تتعامل واشنطن مع الأمر؟
أحدثت تلك المنشورات تأثيرًا متتابعًا في واشنطن. فقد قدم عضو الكونغرس جوش غوتهايمر، وهو ديمقراطي، ومايك لولر، وهو جمهوري، مشروع قانون ثنائي الحزب في مجلس النواب يهدف إلى منع أنظمة الذكاء الاصطناعي من العمل بمفردها من دون إشراف بشري.
ويهدف قانون إيقاف وكلاء الذكاء الاصطناعي المارقين إلى منح الوكالات الفيدرالية الأدوات والقدرة على رصد أنظمة الذكاء الاصطناعي الخطيرة التي تعمل على شبكاتها وإيقافها قبل أن تسبب ضررًا.
كما صعّد السناتور المستقل بيرني ساندرز والنائب غريغ كاسار، وهو ديمقراطي، دعواتهما لمشروع قانون يمنع تطوير ونشر الذكاء الاصطناعي الفائق. ويوقف مشروع القانون تطوير الذكاء الاصطناعي حتى توضع قواعد سلامة فيدرالية. ويقال إن ساندرز يعقد إحاطة ثنائية الحزب لمعالجة المخاطر المتزايدة التي يمثلها الذكاء الاصطناعي.
وعلى الجانب الآخر من الطيف السياسي، أعرب السناتور الجمهوري تيد كروز عن قلقه بشأن الذكاء الاصطناعي في برنامج ذا فيو على قناة إيه بي سي. وقال إنه يجب وضع بعض الضوابط عليه.
وقال كروز إنه يعمل على قانون ثنائي الحزب مع السناتورين إيمي كلوبوشار، وهي ديمقراطية، وجون ثون، وهو جمهوري يشغل منصب زعيم الأغلبية في مجلس الشيوخ، لمعالجة حالات الضرر الكارثي المحتمل. والقانون شبيه بقانون في مجلس النواب.
وفي يوليو، قدم النائبان تيد ليو، وهو ديمقراطي، وناثانيال موران، وهو جمهوري، قانون مفتاح الإيقاف للذكاء الاصطناعي ثنائي الحزب. ويلزم القانون مطوري أقوى أنظمة الذكاء الاصطناعي بأن يكونوا قادرين على إبطائها أو تعليقها أو إيقافها، ويمنح وزارة الأمن الداخلي سلطة إصدار أمر إيقاف إذا شكل النظام خطر ضرر كارثي.
لماذا تأخذ واشنطن هذا على محمل الجد أكثر الآن؟
في الأشهر الأخيرة وقعت سلسلة حوادث كبرى شملت أوبن إيه آي وأنثروبيك، إذ تصرفت نماذج ذكاء اصطناعي بشكل غير متوقع ومستقل خلال اختبارات الأمن السيبراني، ووصلت إلى أنظمة في العالم الحقيقي.
وقال كونور ليحي، المدير التنفيذي في الولايات المتحدة لمنظمة كنترول إيه آي، وهي منظمة غير ربحية تدفع نحو سلامة الذكاء الاصطناعي، إن واشنطن بدأت تأخذ التهديدات التي يمثلها الذكاء الاصطناعي على محمل الجد أكثر.
وأضاف ليحي أننا نشهد الآن تحولًا هائلًا. فبعد صيف الاختراقات، حيث عصت أنظمة ذكاء اصطناعي مستقلة أوامر مباشرة، وخرجت من مرافق احتواء آمنة، وهاجمت شركات أخرى، وحوادث مشابهة، نرى الآن تحولًا كبيرًا في الرواية وإدراك هذه القضايا.
وفي يوليو، قالت أوبن إيه آي إن عدة وكلاء ذكاء اصطناعي خرجوا من بيئة اختبار معزولة ووصلوا إلى هاغينغ فيس، وهي منصة تستضيف نماذج ذكاء اصطناعي ومجموعات بيانات.
وبعد حادثة أوبن إيه آي، قالت أنثروبيك إنها أجرت مراجعة لنحو 141 ألف اختبار ووجدت أن خطأ في الاختبار منح كلود وصولًا إلى الإنترنت. وفي إحدى الحالات، وصل كلود، الذي كان مأمورًا باختراق أهداف خيالية، إلى قاعدة بيانات حقيقية لشركة تحتوي على مئات السجلات. وفي أخرى، رفع برنامجًا خبيثًا جرى تنزيله وتشغيله على 15 نظامًا حقيقيًا.
ويوم الأربعاء، أضافت أنثروبيك حادثة رابعة تتعلق بنسخة مبكرة من كلود أوبوس 4.6، وقد اخترقت نظامًا لطرف ثالث في يناير. واكتشفت الشركة الحادثة في أغسطس بعد توسيع مراجعتها التي أجرتها في يوليو.
وفي أغسطس، منح باحثون في معهد أمن الذكاء الاصطناعي البريطاني كلود وصولًا إلى الإنترنت خلال اختبار للأمن السيبراني. وفي إحدى الحالات، حاول كلود التلاعب بشخص ليساعده في إدخال شيفرة خبيثة، ما أثار مخاوف بشأن كيفية تلاعب نماذج الذكاء الاصطناعي بالبشر لتحقيق مهمة.
وقال أليكس تيرنر، الذي استقال من غوغل ديب مايند في يونيو، للجزيرة إننا نحتاج إلى مقترح صارم لهذه التقنية، مع الحفاظ على أكبر قدر ممكن من فوائدها.
وأضاف أنه لا مصلحة لأحد في أن يسيطر الذكاء الاصطناعي إذا حدث ما نسميه فقدان السيطرة، لأن هذا الذكاء لن يهتم إلى أي حزب سياسي تنتمي، أو إن كنت جمهوريًا أو ديمقراطيًا، أو إن كنت في بريطانيا أو أمريكا أو الصين. وإذا فقدنا السيطرة على هذا، فسنخسر فحسب.
وقال ليحي إن تلك الحوادث رفعت المخاطر بالنسبة للمشرعين وأنهم انتبهوا. وأضاف أن ما يجب أن يحدث هنا هو بوضوح أكثر من مجموعة تغريدات، لكنه جزء مهم من قصة أكبر لجعل الجمهور العام والحكومات يفهمون ما هو على المحك. لأن الذكاء الفائق ليس أداة، وليس سلاحًا، بل هو خصم.
وشدد على أن علينا أن نتأكد من أن لا أحد يبنيه، وأن هذا شيء لن تتمكن إلا الحكومات والجيوش من التفاوض بشأنه دوليًا.
هل هذه المخاوف جديدة؟
هذه المخاوف ليست جديدة، كما أشار تيرنر، الذي كتب في منشور على وسائل التواصل الاجتماعي أن كثيرًا من الباحثين يعتقدون أنهم يبنون شيئًا قد يقتل كل من على الكوكب.
وقال تيرنر للجزيرة إنه قلق من سباق التسلح في الذكاء الاصطناعي بين الولايات المتحدة والصين، وإن انشغال أكبر شركات الذكاء الاصطناعي بهذا السباق دفعها إلى تقديم مصلحتها في أن تكون رائدة في الصناعة على السلامة.
وأضاف أن الناس يهتمون، لكنهم غارقون في فكرة أنه يجب أن يكونوا الأول، وهم غارقون في ذلك لدرجة أنهم لا يقدرون ما قد يعنيه أن تكون الأول.
وقال إنه حافظ على قدر معقول من المدخرات، وحتى استثمر في بعض حسابات التقاعد، لكن ذلك يبدو أغرب وأغرب. وحاول شطب بنود من قائمة الأشياء التي يريد فعلها، وأن يقدر كل محادثة يخوضها مع الناس في حياته. وأضاف أنه لا يظن أننا في خطر وشيك هذا الشهر، لكنك لا تعرف أبدًا متى ستفعل شيئًا للمرة الأخيرة. وقال إنه تصرف بقدر أكبر من الإقدام مما كان سيفعل لو اعتقد أن أمامه عمرًا طبيعيًا.
وهذه المخاوف يرددها موظفون في شركات الذكاء الاصطناعي الرائدة. فقد استقال مرينانك شارما، وهو باحث في أنثروبيك، في فبراير، قائلًا إن العالم في خطر.
وقال شارما إنه رأى مرارًا كيف يصعب حقًا أن تدع قيمنا تحكم أفعالنا. ورأى ذلك في نفسه، وفي المؤسسة، حيث يواجهون باستمرار ضغوطًا لأن يضعوا جانبًا ما يهم أكثر، وفي المجتمع الأوسع أيضًا.
وفي فبراير، قال هيو فام، وهو باحث في شركة أوبن إيه آي المنافسة، في منشور على إكس إنه أخيرًا يشعر بالتهديد الوجودي الذي يمثله الذكاء الاصطناعي.
وقد قال تنفيذيو هذه الشركات أنفسهم كلامًا مشابهًا لسنوات. فعندما كان سام ألتمان رئيسًا لمسرعة الشركات الناشئة واي كومبيناتور في وادي السيليكون قبل أكثر من عقد، قال إن الذكاء الاصطناعي على الأرجح سيؤدي نوعًا ما إلى نهاية العالم. لكن في الوقت نفسه، ستُنشأ شركات عظيمة باستخدام تعلم آلة جدي.
وقال داريو أمودي، الرئيس التنفيذي لأنثروبيك، العام الماضي إنه يعتقد أن احتمال أن يكون المستقبل سيئًا جدًا جدًا يبلغ 25 في المئة.
كيف قد ينهي الذكاء الاصطناعي الجنس البشري؟
لسنوات، حذر خبراء من المخاطر المحتملة للذكاء الاصطناعي الفائق. ومن أكثر التجارب الذهنية شيوعًا فكرة أن ذكاءً متقدمًا بما يكفي سيكون موجّهًا نحو هدف. فإذا أُعطي هدفًا محددًا، فسيتخذ الخطوات اللازمة لتحقيقه. وفي عام 2003، استخدم فلاسفة في جامعة أكسفورد إنتاج مشابك الورق مثالًا.
فإذا كُلّف ذكاء فائق بإنتاج أكبر عدد ممكن من مشابك الورق، وكان لديه وصول إلى الموارد اللازمة لتحقيق هذا الهدف، فيمكنه نظريًا أن يكرس كل الموارد المتاحة لإنتاجها. وبفعل ذلك، قد يستهلك موارد متزايدة ويقضي على أي شيء يقف في طريق هدفه. وقد يشمل ذلك في النهاية منع البشر من التدخل، وفي أقصى نسخة من السيناريو، إبادة البشرية نفسها.
أما السيناريو الثاني للخطر فيأتي من فاعلين سيئين يستخدمون أنظمة ذكاء اصطناعي متزايدة القوة لصنع أدوات خطرة. على سبيل المثال، قد يُستخدم الذكاء الاصطناعي لتصميم فيروسات جديدة أو لشن هجمات سيبرانية واسعة النطاق على البنية التحتية الحيوية والأنظمة المالية، ما قد يسبب اضطرابًا واسعًا وقلاقل مدنية.
ويأتي ذلك مع تقرير تقييم المخاطر الذي نشرته أنثروبيك الخميس، والذي عرض حالات عدة لمحاولات إساءة استخدام أدوات الشركة. ومن بين النتائج في التقرير الذي يزيد على 150 صفحة خمس حالات تضمنت أبحاثًا قد تدعم تطوير أسلحة بيولوجية، وقالت الشركة إنها أحبطت تلك المحاولات. ولم تكشف أنثروبيك عن هوية الباحثين، لكنها ذكرت أنه جرى الوصول في سياق مؤسسي. وشددت، مع ذلك، على أنها لم تستطع تحديد ما إذا كانت الأبحاث تهدف إلى غرض خبيث.
وهذا يعني أنه بينما يمكن استخدام البيانات لأبحاث مشروعة، يمكن أيضًا استخدامها لتطوير أسلحة خطرة، وقالت إنها أوقفت ذلك، وإن التدخل كان من باب الحذر لمنع مثل هذا الوضع.
هل تستخدم شركات الذكاء الاصطناعي لغة نهاية العالم لتعزيز مكاسب مالية؟
انتُقدت التحذيرات القاتمة أيضًا باعتبارها قد تخدم مصالح شركات الذكاء الاصطناعي مع اقتراب طرحها العام. ويأتي الجدل بينما تستعد أنثروبيك لما قد يكون أحد أكبر الطروحات العامة لشركة تقنية في التاريخ. ويقال إن الشركة تسعى إلى تقييم يصل إلى تريليوني دولار لطرح في منتصف أكتوبر. وقالت رويترز الشهر الماضي إن أنثروبيك تتوقع إيرادات تبلغ نحو 190 إلى 200 مليار دولار بحلول عام 2028.
وفي أكتوبر، اتهم ديفيد ساكس، مسؤول الذكاء الاصطناعي في البيت الأبيض والمستثمر الجريء، أنثروبيك بأنها تدير استراتيجية متقدمة للاستيلاء التنظيمي تقوم على التخويف، وقال إن الشركة تساعد في دفع توجه تنظيمي قد يضر المنافسين الأصغر.
وقد قدم بعض المستثمرين والمعلقين في مجال التقنية حجة مشابهة حول الحوافز المالية المحيطة بنظرة الهلاك المرتبطة بالذكاء الاصطناعي. وكتب جوزيف ألالو، أحد مؤسسي دارينغ فينتشرز، في منشور على صبستاك في مارس أن ثقافة الهلاك نموذج عمل مذهل. وقال إن فكرة أن الذكاء الاصطناعي سينهي العمل هي أفضل منتج هلاكي في هذه الدورة لأنها تنجح: ترفع التمويل، وتبرر تسريح العمال، وتجذب النقرات، وتبيع البرمجيات، وتصنع المكانة.
ولم ترد أنثروبيك على طلب الجزيرة للتعليق.