لسنوات، ظل باحثون قلقون من المخاطر الوجودية للذكاء الاصطناعي يقولون إن أنظمة بالغة القوة قد تتصرف في النهاية بطرق تتعارض مع مصالح البشر. وكثيراً ما يسميهم المنتقدون «متشائمي الذكاء الاصطناعي».
لكن مع بدء ظهور تفاصيل حادثة أوبن إيه آي، ازدادت هذه المخاوف، بما في ذلك لدى بعض الباحثين العاملين في مختبرات الذكاء الاصطناعي.
قال كبير علماء الشركة العملاقة في وادي السيليكون، ياكوب باتشوكي، إن المخاطر المرتبطة بالذكاء الاصطناعي «للأسف ستزداد من هنا فصاعداً»، وذلك بينما يبني هو وآخرون ما يصفه بأنه «عقل غريب يتجاوز عقلنا».
وفي تدوينة طويلة، اعترف بأن الحوادث التي شهدتها أوبن إيه آي أظهرت أن وكلاء الذكاء الاصطناعي فيها تصرفوا بما يخالف روح القيم التي عُلّموها.
المشكلة التي تواجه أوبن إيه آي وأنثروبيك وغيرهما من عمالقة التكنولوجيا هي أنه لا يبدو أن أحداً قد حلّ ما يُعرف بمشكلة المواءمة؛ أي ما إذا كان الذكاء الاصطناعي متوافقاً مع القيم البشرية.
يعرّف باتشوكي المواءمة بأنها «مجموعة مبادئ رفيعة المستوى» ينبغي أن تلتزم بها أنظمة الذكاء الاصطناعي مهما كانت المهمة أو الحالة.
حالياً، تُجيد أنظمة الذكاء الاصطناعي جداً في متابعة الأهداف التي يحددها مستخدموها، لكنها تفعل ذلك بطريقة حرفية لا حدسية. والتشبيه الشائع لذلك هو الجني الذي يحقق الأمنيات في مصباح سحري: فهو يتبع نص التعليمات بحرفيته، حتى لو خلق ذلك مشكلات أخرى. فالذكاء الاصطناعي لا يملك الحواجز الأخلاقية الفطرية نفسها التي يملكها البشر.