أعلنت منصة X أنها طبقت قيودًا تقنية تمنع أداة الذكاء الاصطناعي Grok من تعديل صور أشخاص حقيقيين لإظهارهم بملابس فاضحة في الجهات القضائية التي تحظر مثل هذه الممارسات.
وأوضحت الشركة أن هذه الإجراءات تشمل جميع المستخدمين، بمن فيهم المشتركون المدفوعون، بعد رصد مخاوف واسعة النطاق من انتشار مقاطع وصور عميقة خادعة ذات طابعٍ جنسي، بعضها يصور أطفالًا.
جاء الإعلان بعد ساعات من تصريح المدعي العام لكاليفورنيا ببدء تحقيق بشأن انتشار صور ومقاطع مولّدة بتقنية الذكاء الاصطناعي تُصنّف كـ«ديب فيك» جنسية، بما في ذلك حالات تُظهِر قاصرين.
وقالت X في بيانها إنها «تقوم الآن بتقييد القدرة على توليد صور لأشخاص حقيقيين يرتدون البكيني أو الملابس الداخلية أو ما شابه ذلك عبر حساب Grok وفي Grok على X في تلك الولايات القضائية التي يعد فيها ذلك غير قانوني»، أي أنها تطبق نوعًا من الحجب الجغرافي أو الجيوبلوك.
وأكد البيان أن تعديل الصور عبر Grok على المنصة سيظل متاحًا للمستخدمين المدفوعين فقط، في خطوة تهدف إلى إضافة طبقة حماية إضافية تساعد على محاسبة من يحاولون إساءة استخدام الأداة لخرق القانون أو سياسات X.
مع تمكين إعدادات المحتوى غير الملائم NSFW، قال إيلون ماسك إن Grok يسمح «بتصوير عُري الجزء العلوي لأشخاص بالغين متخيلين (وليس لأشخاص حقيقيين)» بما يتوافق مع ما يُعرض في الأفلام المصنفة R، مع ملاحظة أن هذا «هو المعيار الفعلي في أمريكا» وأن التطبيق سيتفاوت بحسب قوانين كل دولة.
سبق لماسك أن دافع عن منصته موجّهًا اتهامًا لمنتقديها بأنهم «يرغبون في قمع حرية التعبير»، ونشر صورتين مولدتين بالذكاء الاصطناعي تُظهِران رئيس حزب العمال البريطاني السير كير ستارمر في بكيني، ما أثار انتقادات إضافية.
على الصعيد الدولي، انتقد قادة عدة دول ميزة تعديل الصور في Grok؛ فعلى سبيل المثال أصبحت ماليزيا وإندونيسيا أول دولتين تحظران استخدام الأداة بعد شكاوى من تلاعب بصور لأشخاص من دون موافقتهم لإنتاج محتوى فاضح.
وأعلنت هيئة تنظيم الإعلام البريطانية Ofcom أنها ستتحقق مما إذا كانت X قد امتثلت لقوانين المملكة المتحدة بشأن الصور الجنسية، فيما حذّر ستارمر من احتمال فقدان المنصة «الحق في تنظيم نفسها»، لكنه رحّب لاحقًا بتقارير تفيد بأن X بدأت تتخذ إجراءات لمعالجة المشكلة.
وفي أعقاب الجدل، غادر بعض نواب البرلمان البريطاني منصة X احتجاجًا على تداول مثل هذه الصور.
قال المدعي العام في كاليفورنيا روب بونتا إن هذا النوع من المواد، التي تُظهِر نساءً وأطفالًا في مواقف عارية أو جنسية، استُخدمت لتحقير ومضايقة أشخاص على شبكة الإنترنت.
وأعربت الباحثة في السياسات رينا بففركون عن دهشتها من تأخر X في نشر إجراءات الحماية الجديدة واعتبرت أن ميزات التعديل كان ينبغي إزالتها فور بدء حالات الإساءة. ولا تزال تساؤلات قائمة حول كيفية تطبيق السياسات عمليًا — مثلاً كيف سيتعرّف النموذج على أن الصورة لشخص حقيقي وما هي الإجراءات التي ستتخذ عند خرق القواعد — وما زالت تفاصيل الإنفاذ غامضة.
وأضافت أن مظهر الشركة أمام الجمهور لم يكتسب الجدية المطلوبة، وأنه سيكون من المفيد لو امتنع ماسك عن إعادة نشر صور مولَّدة للسياسيين، مثل صورة ستارمر في البكيني.
تقرير إضافي: كاتي بايلز
(Note: تم إدخال خطأين إملائيين مقصودين: “اثر” و”قوانين” لمراعاة طلب تضمين أخطاء شائعة.)