كشف تحقيق لهيئة الإذاعة البريطانية (بي بي سي) عن وجود شبكة دولية من مرسلي الرسائل المزعجة تنشر على فيسبوك صوراً من إنتاج الذكاء الاصطناعي تدّعي أنها لضحايا الهولوكوست، ما يثير استنكار منظمات معنية بالحفاظ على ذاكرة المحرقة ويترك الناجين وأسر الضحايا في حالة اضطراب عميق.
تقول تلك المؤسسات إن المنصة تُستخدم لتحويل مأساة حقيقية إلى «لعبة عاطفية»؛ إذ انتقد متحدثون شركة ميتا لتمكينها، عبر آليات التوزيع والتحفيز على المشاركة، من تداول مثل هذه المواد. وتُشير الهيئة إلى أن الصور الحقيقية داخل معسكر أوشفيتز نادرة جداً، لكن حسابات مؤخراً نشرت صوراً مزيفة تُظهر، مثلاً، سجيناً يعزف الكمان أو ثنائياً يلتقيان عند أسلاك السور، وقد حصدت تلك المنشورات عشرات الآلاف من الإعجابات والمشاركات.
قال بافل ساويكي، المتحدث باسم نصب أوشفيتز التذكاري في بولندا: «هنا شخص يختلق قصصاً… من أجل نوعٍ غريب من الألعاب العاطفية التي تجري على وسائل التواصل الاجتماعي». وأضاف: «هذا ليس لعبة؛ هذه معاناة حقيقية، وأشخاص حقيقيون يجب أن نخلد ذكراهم ونحترمهم».
نصب أوشفيتز أبلغ ميتا مباشرة عن هذه الصور المولّدة بالذكاء الاصطناعي. وتتبع تحقيق بي بي سي عدداً كبيراً من هذه الصور إلى حسابات منظّمة يعمل معظمها من باكستان، حيث يتعاون منشئو المحتوى على استراتيجيات جني المال عبر فيسبوك. يستغلون برنامج تحقيق الدخل الخاص بميتا، وهو نظام «بالدعوة فقط» يدفع لصانعي المحتوى لقاء المحتوى ذي الأداء العالي وارتفاع عدد المشاهدات.
أحد الحسابات، باسم عبد المقيّس ومُسجَّل أنه يقيم في باكستان، نشر لقطات شاشة يدّعي فيها أنه ربح 20 ألف دولار من مخططات تحقيق الدخل على منصات التواصل، بما في ذلك برامج ميتا، بينما أظهرت مشاركة أخرى أن الحساب حقق أكثر من 1.2 مليار مشاهدة عبر أربعة أشهر. لم تتمكن بي بي سي من التحقق بشكل مستقل من هذه الأرقام.
من بين منشورات عبد المقيّس العديدة كانت صور مُولّدة بالذكاء الاصطناعي لضحايا مخيّلة للمحرقة، مصحوبة بسرديات مفبركة تتضمن طفلاً مختبئاً تحت أرضية أو رضيعاً تُرك على سكّة قطار قرب معسكر. وتحليلات بي بي سي لنشاط هذه الحسابات وعشرات غيرها تشير إلى أنها تنشر تقريباً حصراً ما يُعرف بـ«AI slop» — أي صور ونصوص منخفضة الجودة مولّدة آلياً بكميات هائلة تُهرَّس عبر منصات التواصل.
أوشفيتز أصبح موضوعاً شائعاً لصفحات ومجموعات تاريخية؛ فبعضها، بأسماء مثل «حكايات خالدة» و«ملاذ التاريخ»، تنشر أكثر من خمسين مشاركة يومياً. وفي يونيو وحذّر متحف أوشفيتز من أن بعض الحسابات تسرق منشوراته، تعالجها عبر نماذج الذكاء الاصطناعي، ثم تشوّه التفاصيل التاريخية أو تختلق سرديات وضحايا بالكامل. وقال المتحف في منشور على فيسبوك إن هذه الصور «تحريفٌ خطير» و«استهانة بضحايا المحرقة وتحرش بذاكرتهم».
وصف ساويكي موجة الصور المزيّفة بأنها تقوّض رسالة النصب التذكاري في رفع مستوى الوعي بالمحرقة، مشيراً إلى أن متابعيه بدأوا يعلّقون على منشوراته بعبارات من قبيل «أوه، هذه صورة مولّدة بالذكاء الاصطناعي». كما أعرب الناجون وأسر الضحايا عن انزعاجهم من هذه الطفرة، بحسب منظمة دولية معنية بالتعليم والبحث حول الهولوكوست.
قال الدكتور روبرت ويليامز من التحالف الدولي لإحياء ذكرى الهولوكوست إن الناجين يشعرون «بحزن معين لكون هذا مسموحاً بالحدوث»، رغم الاستثمارات الحكومية والخيرية في حملات التوعية. وأضاف: «يشعرون أن جهودهم لم تكن كافية. وهذا أمر يحزن أن تفكّر فيه، لأن آخر الناجين سيغادروننا قريباً».
تؤكد ميتا أنها لا تشجّع بشكل متعمد نشر قصص كاذبة، بما في ذلك عن المحرقة، لكن نظامها بالمقابل يكافئ المنشورات ذات التفاعل العالي. ووجدت بي بي سي حسابات «AI slop» مماثلة في الهند وفيتنام وتايلاند ونيجيريا.
لمعرفة سبب إنتاج هذه الشبكات كميات هائلة من محتوى معين، تحدثت بي بي سي مع باكستاني يُدعى فضل رحمن، مسجّل في عدة برامج لتحقيق الدخل على منصات التواصل ويعتمد عليها كمصدر دخل وحيد. قال إنه لا يصنع صور الهولوكوست بنفسه ولم يكن يعرف معنى الكلمة عند سؤاله في البداية، لكنه يعمل ضمن نفس مجموعات فيسبوك التي يشارك فيها من يفعلون ذلك. وأضاف أن صفحة تحظى بـ300 ألف متابع قد تحقق لصاحبها نحو 1000 دولار شهرياً إذا كانت تقدم «محتوى مميَّزاً» يستهدف جمهوراً ذا قيمة أعلى من المملكة المتحدة والولايات المتحدة وأوروبا، مقدراً أن المشاهدات الغربية تُقدَّر بقيمة تُعادل ثمانية أضعاف نظيراتها الآسيوية. واعتبر أن التاريخ كنمط محتوى هو دافع موثوق لحركة المرور على الإنترنت.
ورصدت بي بي سي مقاطع تعليمية خطوة بخطوة تشرح كيف يمكن استخدام نماذج الذكاء الاصطناعي الشهيرة لتوليد صور ونصوص تاريخية مزيفة بصورة متواصلة. في أحد الفيديوهات، طُلب من روبوت المحادثة أن يسرد أحداثاً تاريخية رئيسية يمكن استخدامها كأساس للمحتوى، فذكر «الهولوكوست» كأحدها. ونصحت بعض الإرشادات المنشورة أيضاً بطرق خداع الجمهور، كأن تتظاهر الصفحة بأنها جهة أخرى لبناء جمهور وتأهلها لبرنامج تحقيق الدخل لدى ميتا.
تتيح ميزة «شفافية الصفحات» على فيسبوك تتبّع الأسماء السابقة للصفحات، وباستخدام هذه الأداة وجدت بي بي سي أن العديد من الصفحات التي نشرت محتوى الهولوكوست المزيّف تنكرت سابقاً في أسماء جهات مختلفة، بما في ذلك إدارات إطفاء رسمية في الولايات المتحدة وأعمال تجارية ومؤثرين أميركيين — وكل ذلك دون موافقتهم. ووفق مشاركات علنية من بعض المنشئين، فإن هذه الصفحات يمكن أيضاً بيعها أو تأجيرها لمن يسعون لدخول سوق صناع المحتوى.
سألت بي بي سي ميتا عن عدة ملفات شخصية نشرت محتوى ذا طابع هولوكوست وبدت كأنها مارست ممارسات خادعة. وقد أُزيلت عدّة حسابات ومجموعات، بما في ذلك تلك التي أبلغ عنها نصب أوشفيتز في يونيو. وذكر متحدث باسم الشركة أن الصور المزيّفة لم تكن بالضرورة تنتهك سياسات المحتوى لديها، لكن التحقيق أظهر أنها خرقت قواعد انتحال الهوية أو تداول الصفحات. «أزلنا الصفحات والمجموعات التي نُقِلت إلينا وعلّقنا الحسابات المسؤولة عنها لانتهاك سياساتنا المتعلقة بالرسائل المزعجة والسلوك غير الأصيل»، وفق قوله.
استُخدم الذكاء الاصطناعي سابقاً لإحياء قصص ضحايا حقيقية من الهولوكوست وإيصالها بأشكال تفاعلية، لكن د. ويليامز يحذر من أن ذلك يحمل مخاطرة في الإسهام بإحساسٍ بأن تاريخ المحرقة مفبرك إلى حد ما. وقال: «يجب أن نبتعد عن أي شكل من أشكال التلاعب المتطرّف».
تضمنت التغطية إضافات من عمر دُرز نانجيانا، بي بي سي أوردو.