في الأشهر التي سبقت تنفيذ جيسي فان روتسيلار الهجوم الأكثر دموية على مدرسة في كندا خلال نحو أربعة عقود، كان يستشير مستشارًا غير متوقع حول كيفية تنفيذ قتل جماعي. وبحسب تقارير، قال له روبوت المحادثة شات جي بي تي التابع لشركة أوبن إيه آي، وهو يتحدث عن بندقية ريمينغتون 870، إنها “وحشية في ممر أو داخل مبنى أو صف مزدحم… الأماكن الضيقة هي ساحتها”. وكان فان روتسيلار يبلغ من العمر ثمانية عشر عامًا.
في العاشر من فبراير 2026، أطلق فان روتسيلار النار على والدته وأخيه غير الشقيق في المنزل، ثم ذهب إلى مدرسة في بلدة تومبلر ريدج الصغيرة في كولومبيا البريطانية، حيث قتل ستة أشخاص آخرين، بينهم خمسة طلاب، قبل أن ينهي حياته.
في وقت سابق من هذا الأسبوع، وتحديدًا في 14 أكتوبر، وجهت السلطات الأمريكية في ولاية واشنطن تهمة إلى رجل من الولاية بالتآمر مع فان روتسيلار للتخطيط للهجوم. لكن حادث إطلاق النار الجماعي أثار أسئلة تتجاوز الفهم القانوني التقليدي للمسؤولية.
في سبتمبر، رفعت حكومة كولومبيا البريطانية دعوى مدنية ضد أوبن إيه آي ومديرها التنفيذي سام ألتمان، متهمة إياهما بالإخفاق في منع الحادث، وزعمت أنهما كانا على علم بالمحادثات التي انتهت إلى المأساة. كما رفعت عائلات الضحايا دعاوى منفصلة. وأصدرت قيادة أوبن إيه آي اعتذارًا علنيًا عن إخفاقها في إبلاغ السلطات. ولم ترد الشركة على طلبات التعليق بشأن الدعاوى.
ومع تقدم القضية ضد أوبن إيه آي، عاد جدل مألوف: أين ينبغي رسم الخط الفاصل بين الإبلاغ عن سلوك قد يكون خطيرًا وحماية خصوصية الفرد؟
قالت المحامية في مجال الحريات المدنية المقيمة في الولايات المتحدة جنين يونس إن مسألة إلزام الشركات بتسليم معلومات من هذا النوع إلى السلطات صعبة للغاية، خصوصًا إذا كانت الشركات لا تفحص المحادثات أصلًا بحثًا عن مؤشرات على تهديدات كهذه. وأضافت أن إجبار الشركات على بناء نظام مراقبة يثير مخاوف خطيرة تتعلق بالحريات المدنية، وأن هذا قد يكون تجاوزًا كبيرًا بالنسبة لها. لكنها أشارت في المقابل إلى أن الذكاء الاصطناعي يمنح الأفراد وصولًا إلى أنواع وكميات من المعلومات لم تكن متاحة لهم سابقًا، وقد يسهّل تنفيذ أحداث جماعية دامية، وهي مخاوف لا يمكن تجاهلها بسهولة.
قدرة الذكاء الاصطناعي على التمييز بين الأفكار والتهديدات
من أكبر التحديات التي تواجه شركات الذكاء الاصطناعي تحديد ما إذا كان المستخدم الذي يعبّر عن أفكار عنيفة ينوي فعلًا تنفيذها.
في أغسطس، أبلغت شركة أنثروبيك، صاحبة روبوت المحادثة كلود، شرطة سان فرانسيسكو عن مستخدم بعد أن اكتشفت محادثات يُزعم أنها تضمنت تهديدات لمديرها التنفيذي داريو أمودي. وبحسب صحيفة سان فرانسيسكو ستاندرد، نقلًا عن تقرير للشرطة، ادعى المستخدم أنه يملك بندقية إيه آر 15 وألمح إلى أن أمودي في مرماه. لكن الرجل قال للصحيفة عند التواصل معه إنه كان يمزح ولا ينوي ارتكاب أي عنف. وأضافت الصحيفة أنه لم يُوجه إليه أي اتهام ولم يُحتجز.
قال فضل بارز، الباحث البارز في جامعة أكسفورد والمتخصص في سلامة الذكاء الاصطناعي وحوكمته، إن نماذج الذكاء الاصطناعي الحالية لا تستطيع أن تحدد بشكل موثوق ما إذا كانت المحادثة مع روبوت افتراضية بحتة أم مرجحة أن تؤدي إلى سلوك ضار. وأوضح أنه إذا كان كاتب إبداعي يعمل على قصة خيالية عن جريمة قتل، فقد يكون السياق واضحًا في أن الأمر مجرد سرد خيالي، لكن إذا كانت عتبة الإبلاغ عن المحتوى الضار منخفضة جدًا فقد يُبلغ عنه خطأً. كذلك قد يدرس طالب دراسات عليا في علم الأحياء أو الكيمياء مسببات الأمراض ومخاطر سوء استخدامها وكيفية الحد منها، وقد تكون هذه النقاشات ضرورية لأبحاث مشروعة أو تعليم مشروع، ومع ذلك لا ينبغي الإبلاغ عنها تلقائيًا من دون النظر إلى السياق الأوسع.
وأشار بارز إلى أن تحديد تهديد موثوق قد يتطلب فحص تفاعلات المستخدم عبر محادثات متعددة، بدلًا من الاعتماد على عبارات منفردة. فشخص يعاني من أفكار عنيفة تفرض نفسها عليه قد يلجأ إلى روبوت محادثة طلبًا للدعم، بينما شخص يخطط لهجوم قد يكشف نواياه تدريجيًا عبر محادثات عدة. والتمييز بين الحالتين يتطلب نظرًا دقيقًا إلى السياق والقصد وأنماط السلوك.
قالت تشينمايي شارما، أستاذة القانون في جامعة فوردهام، إن الجدل يشبه الواجب الذي يُفرض على أخصائيي الصحة النفسية بتحذير أطراف ثالثة محددة من تهديدات موثوقة. لكنها رأت فرقًا جوهريًا: فالمعالجون لديهم تدريب مهني ومعرفة بمرضاهم ومعايير قابلة للتنفيذ قانونيًا تحكم سلوكهم، بينما لا تملك شركات الذكاء الاصطناعي بالضرورة ضمانات مماثلة. وأعربت عن قلقها من أن هذه الشركات لا تبذل الآن جهدًا منسقًا لتوظيف مختصين في الصحة النفسية وعلماء اجتماع وأشخاص لديهم خبرة خاصة بمؤشرات التهديد. كما أن المهنيين المرخصين يخضعون لمعايير واضحة وقابلة للتنفيذ قانونيًا في تخصصاتهم، وهذا غير متوفر لشركات الذكاء الاصطناعي.
معضلة الخصوصية
تمتد مسألة الخصوصية إلى ما هو أبعد من قدرة شركات الذكاء الاصطناعي على تحديد التهديدات بدقة. فملايين الناس يستخدمون روبوتات المحادثة لمناقشة العلاقات والضيق العاطفي والصحة النفسية وتجارب شخصية عميقة. وقالت يونس إن كثيرين من المستخدمين قد لا يدركون مدى تعرض هذه المحادثات للكشف. فهي غالبًا تعكس أفكار الشخص وأسئلته ورغباته الأكثر خصوصية، ويفترض معظم الناس أن أحدًا لن يطلع عليها.
وحذرت يونس، وهي رئيسة اللجنة العربية الأمريكية لمكافحة التمييز ومديرتها القانونية، من أن نتائج زيادة المراقبة قد تمتد إلى أبعد من الأشخاص الذين يخططون للعنف. فإذا خاف الناس من تسليم محادثاتهم إلى السلطات لمجرد أنهم يعبرون عن أفكار مقلقة أو تخيلات عنيفة، فسيُثنيهم ذلك عن استخدام هذه الأدوات. ورأت أن إجبار الشركات على إنشاء أنظمة لمراقبة المستخدمين والإبلاغ عن المحادثات قد يثير مخاوف دستورية جدية في الولايات المتحدة، منها الحماية من التفتيش غير المعقول.
من جهتها، أثارت شارما من جامعة فوردهام مسألة من قد يتأثر بشكل غير متناسب بالمراقبة المكثفة لروبوتات المحادثة. وقالت إن القلق قائم دائمًا من الاستهداف المتعمد أو غير المتعمد، لأن النماذج إذا دُرّبت على ما نعتبره خطابًا خطرًا فستعكس غالبًا تحيزات. يُفرط في تصنيف خطاب بعض الأقليات باعتباره تهديدًا، في حين لا يُعامل خطاب آخر مماثل بالطريقة نفسها.
وقالت إنه حتى في عالم يسوده الخير، ينبغي أن نقلق من النتائج المتفاوتة، محذرة من أن الآلات قد تعيد إنتاج هذه التفاوتات على نطاق واسع.
«ليس معالجًا نفسيًا مرخصًا» – متى تصبح شركات الذكاء الاصطناعي ملزمة بالإبلاغ؟
قد تتعرض شركات الذكاء الاصطناعي لضغط أخلاقي لمنع العنف، لكن التزاماتها القانونية أقل وضوحًا، بحسب خبراء قانونيين.
قال برايان تشوي، أستاذ القانون في جامعة كولورادو بولدر، إن القانون الأميركي يعترف بواجب التحذير في ظروف معينة، منها عندما يعلم مختصو الصحة النفسية بتهديدات وشيكة، أو عندما تكون هناك علاقة خاصة بين الأطراف.
لكن هذه المبادئ لا تنطبق بالضرورة على شركات الذكاء الاصطناعي.
وقال تشوي للجزيرة إنه في ظل السوابق القضائية الحالية، من غير المرجح أن تُلزَم شركة مثل أوبن إيه آي بواجبات التحذير هذه. وأضاف: «روبوت الدردشة ليس معالجًا نفسيًا مرخصًا. ولا توجد علاقة خاصة بين الشركة والضحايا».
وقال تشوي إن قوانين الإهمال والمسؤولية عن المنتجات القائمة يمكن أن تُطبَّق على شركات الذكاء الاصطناعي، لكن إثبات المسؤولية سيمثل تحديات كبيرة.
إيجاد توازن
اقترحت شارما من جامعة فوردهام أن تساعد المؤسسات المستقلة في وضع معايير للإبلاغ، بدلًا من ترك القرارات بالكامل للشركات الخاصة أو اشتراط الإفصاح الفوري للشرطة.
وقالت إن هذه الهيئات يمكنها تطوير إجراءات لتقييم التهديدات، واستكشاف طرق لمشاركة المعلومات ذات الصلة فقط، مع حماية هويات المستخدمين وتفاصيلهم الشخصية الأخرى.
في المقابل، رأت يونس أنه ينبغي على الأقل إبلاغ المستخدمين بوضوح بما إذا كانت محادثاتهم تخضع للمراقبة، وبالظروف التي قد تؤدي إلى مشاركة معلوماتهم مع إنفاذ القانون.
وقالت: «هذه على الأرجح مسألة ستستمر في إثارة الجدل في السنوات المقبلة، ولست متأكدة من أن أحدًا يعرف الحل في هذه المرحلة».
وأضافت: «من المرجح أن تؤثر أحداث لم تقع بعد في كيفية تشكيل هذه السياسات».