خطاب الكراهية الذي كان يُنقل وجهًا لوجه بات الآن ينتشر أبعد وأسرع عبر حسابات مجهولة خلف شاشات الهواتف والحواسيب.
بمناسبة اليوم الدولي لمكافحة خطاب الكراهية في 18 حزيران/يونيو، حذّر أمين عام الأمم المتحدة أنطونيو غوتيريش من أن منصات التواصل الاجتماعي تضخّم هذا الخطر بدلاً من احتوائه. ومع تكليف الذكاء الاصطناعي بمهمّة اكتشاف وإزالة هذا المحتوى، تبرز فروقات واضحة بين أداء هذه الأنظمة والحكم البشري.
تعريف خطاب الكراهية
حسب الأمم المتحدة، خطاب الكراهية هو أي شكل من أشكال التواصل — لفظي أو مكتوب أو سلوكي — يميّز ضد فرد أو مجموعة أو يحرض على العنف تجاههم. يستهدف خطاب الكراهية الهوية الحقيقية أو المتصوَّرة للشخص مثل العِرق أو الإثنية أو الدين أو الجنس أو التوجه الجنسي أو الإعاقة، ولا يقتصر على الكلمات فحسب، بل يشمل الصور والرسوم الكاريكاتيرية والإيماءات وحتى الأشياء.
مدى انتشار خطاب الكراهية على الأنترنت
أظهر استطلاع مشترك أجرته مؤسسة إيبسوس ومنظمة اليونسكو عام 2023 شمل 8000 مشارك في 16 دولة أن أكثر من ثلثي مستخدمي الأنترنت صادفوا خطاب كراهية عبر الشبكة. وذكر المشاركون أن الأشخاص من مجتمع الميم (LGBTIQ) هم الأكثر تعرضًا لهذه الظاهرة بنسبة 33%، تليهم الأقليات العرقية والإثنية بنسبة 28%، ثم النساء بنسبة 18%.
السياسات الرقمية وإجراءات الإزالة
شركة ميتا، صاحبة فيسبوك وإنستغرام، سجلت انخفاضًا في عدد المشاركات المحذوفة منذ 2023؛ ففي الربع الرابع من 2025 أزالت 1.3 مليون منشور من إنستغرام و1.3 مليون من فيسبوك، مقارنةً بـ7.4 ملايين من إنستغرام و5.8 ملايين من فيسبوك في الربع الرابع من 2024. جاء ذلك تزامنًا مع تحول الشركة بعيدًا عن الكشف التحفّظي إلى الاعتماد الأكبر على تقارير المستخدميين. من ناحية أخرى، أفادت تيك توك بأنها أزالت 96.3% من محتوى خطاب الكراهية قبل أن يبلغ عنه المستخدمون في الربع الرابع من 2025.
كيف تكشف نماذج الذكاء الاصطناعي خطاب الكراهية؟
للتعامل مع انتشار خطاب الكراهية، لجأت شركات التواصل الاجتماعي إلى نظم مراقبة محتوى مدعومة بنماذج لغوية كبيرة قادرة على فلترة كميات هائلة من المنشورات. تعتمد هذه الأنظمة عادةً على مجموعات بيانات موسومة ونماذج مدرّبة مسبقًا، ثم تطبق قواعد أو عتبات تقييمية لتحديد ما إذا كان المحتوى يرقى إلى خطاب كراهية أو ينتهك سياسات المنصة.
لكن دراسة أجراها باحثون بجامعة بنسلفانيا عام 2025 أظهرت تباينًا كبيرًا بين هذه النماذج في كيفية تحديد وتصنيف خطاب الكراهية، مع تفاوتات لافتة عبر الأنظمة والفئات الديموغرافية، مما يثير مخاوف جدّية بشأن التحيّز وعدم التماثل في الحماية على الإنترنت. قيّمت الدراسة سبعة أنظمة رقابية (من بينها نماذج من OpenAI وAnthropic وDeepSeek وMistral وGoogle) ووجدت فروقًا جوهرية في كيفية وضع العلامات وتحديد شدة خطاب الكراهية حسب الفئات المستهدفة.
أظهرت النتائج، على سبيل المثال، أن نقطة نهاية مراقبة Mistral كثيرًا ما تكون قريبة من القيمة القصوى (قريبة من 1)، ما يعني أنها تصنّف أمثلة كثيرة على أنها عالية الكراهية بغض النظر عن المجموعة المستهدفة، بينما تميل نقطة نهاية OpenAI إلى إنتاج درجات أقل بكثير في العديد من الفئات، وأحيانًا أقلّ من نصف الدرجة التي تمنحها نماذج أخرى. كما لفت الباحثون إلى أن “اختلاف مخرجات نظامين لنفس المحتوى — بحيث يعلّم واحدهما أنها خطاب كراهية بينما لا يفعل الآخر — يقوّض شرعية عملية الرقابة.”
قيود كشف خطاب الكراهية بالاعتماد على الذكاء الاصطناعي
النماذج قادرة على رصد خطاب الكراهية الصريح — مثلاً عندما تُستخدم ألفاظ نابية أو شتائم تستهدف مجموعة بعينها — لكنها غالبًا ما تعجز عن الإمساك بالأمثلة الأكثر دقّة وتعقيدًا. يشرح أركايتز زوبياغا، أستاذ مشارك في جامعة كوين ماري بلندن ومشارك في قيادة مختبر علم البيانات الاجتماعية، أن حالة خطاب الكراهية الضمني تمثل تحديًا: رسائل تبدو في ظاهرها إيجابية مثل «أتمنى لو أرى عالمًا أفضل إذا…» تتبعها عبارة تحقيرية تجاه فئة ما، قد لا يلتقطها الذكاء الاصطناعي إذا ركّز على الجانب الإيجابي من الصياغة.
كما أن العكس يحدث: كلمات كانت في السابق تُعتبر شتائم وتُستخدم للإيذاء، وقد أُعيد تأطيرها داخل مجتمعات مهمّشة لتعبّر عن تضامن أو ألفة، فيُسمّيها النظام على نحو خاطئ كمحتوى كريه. هذه اللغة المُستعادة تمثّل فخًّا للأنظمة التي تميل إلى وضع علامة الكراهية على مفردات تاريخيًا مهينة، حتى وإن استُخدمت بين أعضاء المجتمع المستهدف. أخيرًا، يجدر التنبيه إلى أن اختلاف معايير التقييم بين النماذج يؤدي إلى حماية غير متساوية لمجموعات مختلفة ويثير تساؤلات حول الشفافية والمساءلة في آليات الرقابة الرقمية.
المعضلة أمام صانعي السياسات والمنصّات واضحة: اعتماد الذكاء الاصطناعي يقدّم قدرات واسعة على المقاس، لكنه يحتاج إلى مزيد من التحسين والضوابط الإنسانية لتفادي التحيّزات وحماية الحقوق الأساسية في فضاء يُدار رقميًا.