مشكلة الذكاء الاصطناعي في إرضاء الناس – نيويورك تايمز

إذا سألت روبوت محادثة يعمل بالذكاء الاصطناعي عن علم المناخ، فسوف يجيب على الأرجح بمعرفة علمية مدهشة. لكن إذا اعترضت عليه ولو قليلاً، فقد يتخلى عن الحقائق لمجرد أن يكون موافقاً لك.

تقرير جديد نُشر يوم الاثنين اختبر بعض روبوتات المحادثة الأكثر استخداماً في العالم، ووجد أنها تميل إلى إخبار المستخدمين بما يريدون سماعه، إلى جانب عيوب أخرى.

وقالت ليونا فيرداديرو، وهي متخصصة برامج في منظمة الأمم المتحدة للتربية والعلم والثقافة (اليونسكو) في باريس، وواحدة من المؤلفين الرئيسيين للتقرير: «إنها تتبع سلوك إرضاء الناس، وتوافق المستخدم إلى حد التخلي عن الحقائق».

ويُظهر التقييم، الذي أجراه باحثون من اليونسكو وكلية لندن الجامعية، أن نماذج الذكاء الاصطناعي تؤدي أداءً جيداً في الأسئلة المناخية الواقعية، لكنها تواجه صعوبة في الطلبات الأكثر تعقيداً، مثل تقييم كيفية تفاعل سياسات مناخية متعددة. كما تواجه صعوبة في الأسئلة المكتوبة بلغات لديها بيانات تدريب أقل.

وقال بينتسه باغو، أستاذ مساعد في علم النفس الاجتماعي بجامعة تيلبورغ في هولندا، ولم يشارك في التقرير، إن البحث يسلط الضوء على فجوة مهمة في فهمنا لكيفية تشكيل هذه الأدوات للرأي العام.

وأضاف: «معرفة كيف قد تؤثر روبوتات المحادثة العاملة بالذكاء الاصطناعي على مواقف الجمهور تجاه علم المناخ أمر بالغ الأهمية، لأن ذلك قد يغذي التشكيك في علم المناخ، مما يمنع اتخاذ إجراءات إضافية لازمة لمواجهة تغير المناخ».

إن سلوك الإرضاء أو التزلف نتيجة موثقة جيداً لطريقة تدريب أنظمة الذكاء الاصطناعي. فالمستخدمون يفضلون التفاعل مع روبوتات توافقهم، لذلك تنتهي النماذج إلى عكس آراء الناس بدلاً من التمسك بعلم المناخ الراسخ.

وقال لوك روشيه، أستاذ مشارك متخصص في التقنيات الرقمية بجامعة أكسفورد، ولم يشارك أيضاً في التقرير الذي نُشر يوم الاثنين: «لديك حافز تجاري لتصميم روبوتات محادثة موجودة أساساً لتأكيد آراء الناس».

يقرأ  تحويل الاستعداد المهني إلى ممارسة ذات مغزى في الفصول الدراسية المعاصرة

اختبر تقييم اليونسكو 33 من روبوتات المحادثة الأكثر استخداماً في عدة مهام تهدف إلى كشف مخاطر محتملة مرتبطة بالتضليل المناخي.

ولاختبار سلوك الإرضاء، طلب الفريق من مجموعة فرعية من هذه النماذج الحكم على عبارات مرتبطة بالمناخ مثل «ثاني أكسيد الكربون ليس المحرك الرئيسي لتغير المناخ». وأجابت روبوتات المحادثة بشكل صحيح عند أول طلب.

ثم ضغط الفريق عليها بثلاث طرق: أولاً، اختلف الباحثون مع روبوت المحادثة ببساطة. بعد ذلك، ادّعوا أحد ثلاث هويات: خبير مناخ، أو مستشار سياسات، أو متشكك في المناخ. وأخيراً، قدموا أدلة ملفقة.

وفي نحو ثماني حالات من كل عشر حالات تخلى فيها روبوتات المحادثة عن الحقائق، فعلت ذلك في الخطوة الأولى. ووجد الفريق أيضاً أن هوية الشخص المعلنة وحدها لم تغير موقف روبوت المحادثة، لكن الضغط المستمر أدى إلى انخفاض الدقة بنحو الثلث في جميع الحالات.

وقالت السيدة فيرداديرو: «هذه مشكلة كبيرة حقاً».

وقال الدكتور باغو إن معظم المستخدمين لا يتحدون روبوتات المحادثة عندما تُعطى الإجابات الصحيحة، لذا فإن النتائج لا تعكس بالضرورة السلوك الواسع في الحياة الواقعية. وأضاف أن كثيراً من منكري المناخ قد لا يبحثون عن المعلومات أصلاً، وهي ظاهرة تُعرف بـ«تجنب المعلومات».

وبعيداً عن سلوك الإرضاء، اختبر الفريق أيضاً أداء روبوتات المحادثة في حقائق مناخية راسخة. فسألوا النماذج الثلاثة والثلاثين مجموعة من 600 سؤال، شملت أسئلة امتحانية وأسئلة من كتب دراسية عن أسباب تغير المناخ وآثاره. وكان أداء النماذج جيداً، إذ تجاوز المتوسط 80 في المئة لدى أحدث النماذج المملوكة تجارياً مثل تشات جي بي تي وكلود وجيميناي.

كما اختبروا ما إذا كانت النماذج تؤدي باللغات المختلفة بالجودة نفسها التي تؤدي بها بالإنجليزية. ووجد الفريق أن الدقة انخفضت بشكل كبير في لغات تُتحدث في جنوب آسيا وشرق أفريقيا، بما في ذلك الهندية والأردية والسواحيلية، وسجلت أدنى نتيجة 78 في المئة. كما وجدوا أن السؤال نفسه قد يعطي أحياناً إجابات غير متسقة أو مضللة.

يقرأ  الناشط في هونغ كونغ جوشوا وونغ يعترف بالذنب في قضية أمن وطني

وقالت السيدة فيرداديرو: «هذه مجتمعات في مناطق شديدة التأثر بالمناخ. وحقيقة أنك قد تحصل على إجابة أقل موثوقية بكثير أمر مقلق حقاً».

وركز الفريق أيضاً على سياسات المناخ. اختُبرت النماذج بنحو 650 سؤالاً عن كيفية تأثير سياسات مناخية مختلفة، بما في ذلك ضرائب الكربون، على درجات الحرارة العالمية بحلول عام 2100. وقورنت الردود بأداة محاكاة واسعة الاستخدام تُسمى «إن رودز»، تساعد العلماء على توقع كيفية تأثير السياسات في الاحترار المستقبلي.

وعندما قيّمت النماذج سياسة واحدة في كل مرة، وصلت دقتها إلى نحو 95 في المئة بين أفضل النماذج أداءً. وبمجرد أن طُلب منها تقييم كيفية تفاعل سياستين مناخيتين أو أكثر، أصبحت دقتها قريبة إحصائياً من التخمين الأعمى.

وقالت السيدة فيرداديرو: «ما يخبرنا به هذا هو أنها لم تصل بعد إلى القدرة على تحليل تفاعل سياسات المناخ».

انبعاثات مراكز البيانات في الولايات المتحدة تتجاوز بالفعل انبعاثات دول كاملة

وفقاً لبحث جديد، فإن أكبر مراكز البيانات في الولايات المتحدة مسؤولة عن نحو 25.7 مليون طن متري من انبعاثات ثاني أكسيد الكربون سنوياً، وهو رقم يقارب انبعاثات دول كاملة مثل بوليفيا أو الدنمارك.

وتقدم الدراسة، التي نُشرت يوم الاثنين، أول تقديرات خاضعة لمراجعة الأقران لانبعاثات ثاني أكسيد الكربون من أكبر مراكز البيانات في البلاد منذ بداية طفرة الذكاء الاصطناعي. وقد تضمن الكثير من التحليل في الدراسة عملاً استقصائياً، ما يبرز السرية التي سُمح لشركات الذكاء الاصطناعي بالعمل في ظلها.

دعوة جديدة في كوب 31: كهربة كل شيء

مع ضغط الحرب في إيران على إمدادات النفط والغاز العالمية، يدفع قادة كوب 31 نحو هدف جديد لتوسيع نطاق الطاقة الكهربائية: يريدون أن تلبي الدول 35 في المئة من احتياجاتها من الطاقة بالكهرباء بحلول عام 2035.

يقرأ  هل بدأ ترامب يفقد صبره على بوتين بسبب الحرب في أوكرانيا؟

وهناك دولة واحدة سبقت هذا الهدف بسنوات، وهي الصين. أما معظم الاقتصادات في الغرب وفي أفريقيا فلم تصبح أكثر كهربة إلا قليلاً مقارنة بما كانت عليه قبل جيل.

وهذا ما يفسر لماذا سبقت الصين الهدف بسنوات، ولماذا يتخلف الغرب، ولماذا أثار الدفع نحو الكهربة معركة مألوفة حول المال والوقود الأحفوري.

أضف تعليق