أعادت سلسلة دعاوى قضائية كندية ضد شركة أوبن إيه آي، بسبب عدم إبلاغها السلطات بتهديدات ظهرت على منصتها شات جي بي تي قبل واحدة من أسوأ حوادث إطلاق النار الجماعي في تاريخ كندا، تسليط الضوء على ممارسات شركات الذكاء الاصطناعي في مجالي الخصوصية والأمن. كما أثارت الدعاوى أسئلة حول المسؤولية القانونية المحتملة عن طريقة استخدام منصات هذه الشركات.
أحدث دعوى رُفعت هي دعوى مقاطعة كولومبيا البريطانية، بعد سبعة أشهر من قيام جيسي فان روستسلار، البالغة 18 عاما، بقتل ثمانية أشخاص في بلدة تامبلر ريدج الكندية الصغيرة. وكان حسابها على شات جي بي تي قد أُشير إليه في محادثات تضمنت، وفق تقارير، عنفا بالأسلحة. وشمل الضحايا والدة فان روستسلار وأخاها غير الشقيق، بالإضافة إلى خمسة أطفال ومعلمة في مدرسة ثانوية. وتوفيت فان روستسلار منتحرة.
وقالت النائب العام لكولومبيا البريطانية نيكي شارما إن الدعوى تمثل «خطوة مهمة نحو طلب العدالة». وتأتي بعد نحو 30 دعوى رفعها أفراد عائلات الضحايا في وقت سابق. وفي أبريل، اعتذر الرئيس التنفيذي لشركة أوبن إيه آي، سام ألتمان، لعائلات الضحايا. وكتب في رسالة مفتوحة: «أنا آسف بعمق لأننا لم نبلغ السلطات».
إليك ما نعرفه عن هذه القضايا وما قد تعنيه للمساءلة في صناعة الذكاء الاصطناعي سريعة التغير.
ما الدعاوى التي رُفعت؟
هذا الأسبوع، رفعت مقاطعة كولومبيا البريطانية دعواها في محكمة سان فرانسيسكو الفيدرالية في كاليفورنيا بالولايات المتحدة، واتهمت فيها أوبن إيه آي بالفشل في إبلاغ السلطات عن تفاعلات مستخدم مثيرة للقلق على شات جي بي تي قبل حادثة إطلاق النار في تامبلر ريدج. وتتهم الدعوى أوبن إيه آي بـ«المساعدة والتحريض على إطلاق نار جماعي» وبمسؤولية عيب المنتج. كما تسمي الرئيس التنفيذي سام ألتمان مدعى عليه.
وتطلب الدعوى تعويضا ماليا من أوبن إيه آي لتغطية تكاليف الاستجابة للطوارئ وجهود تعافي المجتمع، بما في ذلك إعادة بناء المدرسة التي وقع فيها إطلاق النار، والتي من المقرر هدمها. وتريد الدعوى أيضا أن تُلزم المحكمة أوبن إيه آي بتعديل سياساتها المتعلقة بتحديد المحادثات التي تهدد بالعنف والتعامل معها.
وقال جان كريستوف بيليز بيبون، الأستاذ المساعد في أخلاقيات الصحة بجامعة سايمون فريزر، إن كولومبيا البريطانية تلاحق القضية في محكمة أميركية بدلا من محكمة كندية لأن فرصها في الحصول على تعويضات أعلى هناك أكبر.
وأضاف بيليز بيبون لـ«الجزيرة»: «هذا يدل على مدى تقييد القانون الكندي للتعويضات. فتعويضات الألم والمعاناة محددة بسقف، والتعويضات التأديبية نادرة ومتواضعة. ومن غير المرجح أن يعوض حكم كندي ما يجب على المقاطعة تغطيته الآن».
كما رفع الضحايا وعائلاتهم 30 دعوى ضد أوبن إيه آي في المحكمة الجزئية الشمالية لكاليفورنيا في قسم سان فرانسيسكو مطلع سبتمبر، زاعمين أن «شات جي بي تي لعب دورا في إطلاق النار الجماعي، وأن أوبن إيه آي كان بإمكانها، بل كان ينبغي عليها، منعه».
ماذا حدث في تامبلر ريدج؟
في فبراير من هذا العام، أطلقت جيسي فان روستسلار، البالغة 18 عاما، النار وقتلت ثمانية أشخاص في مدرسة ثانوية ومسكن في تامبلر ريدج بكولومبيا البريطانية.
وتامبلر ريدج بلدية نائية يبلغ عدد سكانها نحو 2400 نسمة. وتقع عند سفوح جبال روكي في شمال كولومبيا البريطانية، على بعد نحو 1155 كيلومترا شمال شرق فانكوفر.
ومدرسة تامبلر ريدج الثانوية مدرسة تضم الصفوف من السابع إلى الثاني عشر، وعدد طلابها 160 طالبا بحسب موقعها الإلكتروني.
وعثر الضباط على المهاجمة المشتبه بها ميتة في المدرسة. كما عُثر على جثتي ضحيتين في منزل قريب، وقالت الشرطة إنهما لوالدتها البالغة 39 عاما وأخيها غير الشقيق البالغ 11 عاما.
وشمل الضحايا معلمة تبلغ 39 عاما، وثلاث طالبات يبلغن 12 عاما، وطالبين يبلغان 12 و13 عاما.
ماذا نعرف عن استخدام المهاجمة لشات جي بي تي؟
بعد إطلاق النار الجماعي، كشفت أوبن إيه آي أنها رصدت إساءة استخدام في حساب على شات جي بي تي مرتبط بفان روستسلار قبل ثمانية أشهر، ثم عطلته. وقالت إن الحساب حُظر بسبب «إساءة استخدام نماذجنا لخدمة أنشطة عنيفة».
لكن أوبن إيه آي قالت إنها لم تبلغ الشرطة حينها لأن محتوى المستخدم «لم يستوف العتبة الأعلى المطلوبة للإحالة»، أي إن الشركة لم تر أنه يشير إلى خطر موثوق ووشيك بوجود خطة لأعمال عنف.
ونقلت صحيفة وول ستريت جورنال عن أشخاص مطلعين أن نحو اثني عشر موظفا في أوبن إيه آي ناقشوا ما إذا كان ينبغي إبلاغ السلطات عن المحادثات التي وصفت فيها فان روستسلار سيناريوهات تتعلق بعنف بالأسلحة. وحث بعض الموظفين الشركة على إحالة الأمر إلى السلطات، لكن قيادة أوبن إيه آي قررت عدم فعل ذلك، وفق الصحيفة.
وذكرت مجلة ماذر جونز الأميركية أنه بعد حظر حساب فان روستسلار على شات جي بي تي، فتحت حسابا ثانيا على المنصة استخدمته في الأشهر التي سبقت إطلاق النار. وخلال تلك الفترة، أعطاها روبوت الدردشة «نصائح حول كيفية التهرب من ضوابطه» لتجنب حظر آخر، مثل تقديم المحتوى العنيف على أنه «خيالي أو افتراضي»، حسبما ذكرت المجلة نقلا عن مصادر مطلعة ومواد من سجل محادثات فان روستسلار.
وتقول أوبن إيه آي إنها شاركت سجلات المحادثات مع الشرطة الملكية الكندية، لكن كولومبيا البريطانية تقول إنها لم تتسلمها.
لماذا يلوم الآباء والمسؤولون المحليون أوبن إيه آي؟
يقولون إن الشركة فشلت في اتخاذ إجراء كان يمكن أن يمنع إطلاق النار الجماعي، وإنها هيأت شات جي بي تي بطريقة غير آمنة.
وتقول دعوى كولومبيا البريطانية ضد أوبن إيه آي، المرفوعة في محكمة سان فرانسيسكو الفيدرالية في 21 سبتمبر: «مكالمة هاتفية واحدة إلى الشرطة الملكية الكندية كان يمكن أن تمنع المأساة».
وتشير الدعوى أيضا إلى أن أوبن إيه آي فشلت في تطبيق حظر على مستوى المستخدم كان سيمنع فان روستسلار من فتح حساب ثان على المنصة. وتزعم كذلك أن ميزات الأمان في شات جي بي تي أُضعفت لإعطاء الأولوية للتفاعل.
وتقول الدعوى إن المنصة «ليست قناة سلبية لنقل كلام الآخرين، بل منتج يولد المحتوى وصنع سيناريوهات تتعلق بعنف بالأسلحة». وتضيف: «كانت توجد بدائل تصميم قابلة للتنفيذ وأكثر أمانا، لكنها لم تُعتمد أو لم تُنفذ بفعالية».
وقالت تيفاني لي، الأستاذة المشاركة في القانون بكلية الحقوق ساوثويسترن، إن تجاهل أوبن إيه آي المزعوم لضوابط الأمان قد يقوي المطالب القانونية لكولومبيا البريطانية.
وقالت لي لـ«الجزيرة»: «هذا يميز هذه القضية عن قضايا وفيات أخرى مرتبطة بالذكاء الاصطناعي، حيث لم تكن لدى الشركات آليات متطورة لتحديد المخاطر والإبلاغ عنها وسير عمل للسلامة». هناك حجة أقوى للمطالبات المرتبطة بالإهمال والإخفاق في التحذير.
ماذا قالت أوبن إيه آي؟
في رسالة مفتوحة في أبريل، اعتذر سام ألتمان، الرئيس التنفيذي لأوبن إيه آي، إلى المجتمع الكندي في تامبلر ريدج عن إخفاق شركته في إبلاغ السلطات عن الحساب الذي أثيرت حوله تحذيرات.
وقال ألتمان إنه يعرف أن الكلمات لا يمكن أن تكون كافية أبدًا، لكنه يعتقد أن الاعتذار ضروري للاعتراف بالضرر والخسارة التي لا رجعة فيها التي عانى منها المجتمع. وأضاف أنه سيعمل على إيجاد طرق لمنع مآسٍ كهذه في المستقبل، بما في ذلك العمل مع الحكومات.
وكانت أوبن إيه آي قد تعهدت سابقًا للحكومة الكندية بتنفيذ سلسلة من إصلاحات السلامة. وكان من المقرر أن تشمل هذه الإصلاحات تعزيز إجراءات إحالة المسائل إلى السلطات المكلفة بإنفاذ القانون، وإنشاء خط مباشر مع السلطات الكندية، ودمج سياق البلد والمجتمع في عملها المتعلق بخفض التصعيد، وتحسين أنظمتها لاكتشاف المستخدمين الذين ينتهكون سياساتها بشكل متكرر.
لكن شارما قال إن أوبن إيه آي لم تتخذ بعد خطوات ذات معنى لمعالجة المخاوف التي أثارها الناجون والعائلات ومجتمع تامبلر ريدج.
وقدمت أوبن إيه آي طلبات لرفض الدعاوى المرفوعة ضدها في كاليفورنيا والمتعلقة بإطلاق النار في تامبلر ريدج، بحجة أن تلك القضايا يجب أن تنظر بدلًا من ذلك في كولومبيا البريطانية.
هل يمكن للمجتمع حقًا أن يحمّل روبوتات الدردشة بالذكاء الاصطناعي مسؤولية مآسٍ حقيقية؟
تتزايد الدعوات لتحمل المنصات الرقمية مسؤولية أكبر عن تأثيرها في المستخدمين، ولا سيما الأطفال، الذين يقول الآباء والناشطون إنهم معرضون بشكل خاص للإدمان وأضرار أخرى.
في مارس، وجدت هيئة محلفين في لوس أنجلوس أن غوغل التابعة لألفابت وميتا مسؤولتان عن التعويضات في محاكمة مدنية تاريخية تتعلق بإدمان الشباب على وسائل التواصل الاجتماعي، وقالت إن الشركتين بنتا عمدًا منصات تسبب الإدمان وتضر بالصحة النفسية.
يقول خبراء إن الدعوى في كولومبيا البريطانية ضد أوبن إيه آي قد تكون أيضًا قضية اختبارية مهمة لكيفية تعامل القانون مع المنصات الرقمية. ويقولون إنها تثير أسئلة لم تُحل إلى حد كبير حول متى يمكن تحميل شركة ذكاء اصطناعي مسؤولية عنف يرتكبه مستخدم، بما في ذلك الظروف التي يكون عليها فيها واجب عناية ومتى تخل بهذا الواجب.
قالت أنات ليور، الأستاذة المشاركة في القانون بجامعة دريكسل في بنسلفانيا بالولايات المتحدة، إن مسألة ما إذا كان على أوبن إيه آي واجب تحذير السلطات بشأن إطلاق النار ستعتمد على الأرجح على عوامل مثل قدرة الشركة على توقع الخطر، وإلى حد ما السيطرة على الضرر المحتمل.
وأضافت ليور أن المحاكم إذا اعترفت بهذا الواجب، فقد تفرض على شركات الذكاء الاصطناعي التزامات إيجابية، بناءً على اطلاعها على معلومات المستخدمين، بأن تنذر السلطات أو تتخذ تدابير وقائية أخرى نيابة عن الضحايا المحتملين. وقالت إننا ما زلنا في المراحل المبكرة جدًا من مسؤولية الذكاء الاصطناعي من الناحية العملية، وما زال الكثير بحاجة إلى توضيح.
وقال بليز-بيون إن المحتوى المنسوب إلى شات جي بي تي، والذي نصح فان روستسلار بكيفية تجنب ضمانات الحماية، قد يؤثر أيضًا في القضية.
وأضاف بليز-بيون أن عدم الاتصال بالشرطة أمر، وتعليم مستخدم كيف يتجاوز ضماناتك الخاصة أمر آخر. وقال إنه إذا ثبتت هذه الوقائع في المحكمة، فلن يكون الأمر مجرد إخفاق في التحذير، بل سيصبح سؤالًا عن مدى مساهمة المنتج نفسه، ويعتقد أن المدعين ستكون لديهم قضية قوية جدًا.
وأضاف لي أن هذه القضية تثير أسئلة كثيرة بلا إجابة في القانون الأمريكي. هناك قضايا جارية كثيرة تتعلق بوفيات مرتبطة باستخدام تطبيقات الذكاء الاصطناعي، لكن لا يوجد قانون واضح بشأن الموضوع بعد. وقال إن هذه قد تكون أيضًا فرصة لهذه الدعوى كي تحدث تأثيرًا قويًا في كيفية تطور قانون الذكاء الاصطناعي.