ما الذي حدث
سمحت Meta بعرض إعلانات تروّج لتوليد صور مزيفة صريحة لسياسيات. يتعلق الأمر بأداة Kromix التي تصف نفسها بأنها «مُنسّق صور بالذكاء الاصطناعي». في أحد المقاطع، ظهرت على خلفية العلم الأمريكي امرأة تشبه سياسية أمريكية معروفة، مع عبارة «What if she moved?» — وبعد رمشة عين، انتقل الكاميرا إلى فيديو إباحي بنفس الوجه. كان الإعلان مصحوبًا برسالة صوتية تزعم أن الخدمة «بلا قيود»، وأن «جميع الشخصيات أشخاص حقيقيون»، وأنها «ذكاء اصطناعي يستخدمه الرجال فعليًا».
على الرغم من قواعد Meta التي تحظر المحتوى الجنسي والترويج لتطبيقات nudify، عملت الحملة لفترة من الوقت. اكتشف الفيديو باحثون من Tech Transparency Project. وفقًا لمكتبة إعلانات Meta، كانت الحملة موجّهة للرجال فقط واستخدمت شعار «Unleash Next-gen AI Magic». ارتبط بالحساب 32 إعلانًا عُرضت من 5 إلى 46 ساعة؛ ولم يتجاوز معظمها عشر مرات عرض.
ما المعروف عن التطبيق
كان Kromix لا يزال متاحًا في App Store وقت تواصل الصحفيين. النسخة المدفوعة سمحت بتحميل الصور لسيناريوهات بأسماء مروعة مثل «bedroom rape» و«Disney love». كما احتوى على مقاطع إباحية مولّدة بالذكاء الاصطناعي لنساء بزي الرجل العنكبوت. لم يرد المطورون على طلب التعليق.
من جانبها، واجهت Apple انتقادات سابقة بسبب أدوات التزييف العميق. وجّه المدعي العام لمدينة سان فرانسيسكو رسالة إلى الشركة يطالبها فيها بحظر 13 تطبيقًا محددًا ووقف «التواطؤ» في بيع صور مزيفة صريحة.
كيف يمكن أن يمر هذا عبر المراجعة
وفقًا لوثائق Meta، يخضع كل إعلان لفحص تلقائي قبل النشر. لكن في حالة Kromix، استخدم الإعلان أغلفة لشاطئ وجبال وشلالات — وكان الفيديو الإباحي يُفتح بعد النقر. أكدت Meta أنها تعلم بهذه التكتيكات. بالإضافة إلى ذلك، أُنشئت صفحة الإعلان في 3 أغسطس ولم يكن لها متابعون — وهو ما بدا مريبًا بحد ذاته.
لم تلاحظ المراجعة أيضًا الرسالة الصوتية التي روّج فيها الخدمة صراحةً كأداة بلا قيود. في النهاية، أُزيل الإعلان فقط بعد طلب من WIRED.
لماذا ليست هذه حالة معزولة
السياسيون، وخاصة النساء، ظلوا لسنوات أهدافًا للتزييف العميق غير الطوعي. الصور الرسمية وتسجيلات المؤتمرات الصحفية تحولت إلى مادة خام لأدوات متاحة لأي مستخدم إنترنت، كما يشير بنجامين شولتز من American Sunlight Project. في يناير، أُنشئ حوالي ثلاثة ملايين صورة جنسية عبر Grok؛ وكانت المسؤولات في السويد وإنجلترا وأيرلندا الشمالية من بين الأهداف.
يبدو أن Meta تحاول مكافحة المشكلة بعد أن يعثر الباحثون على آلاف الإعلانات المماثلة. تدّعي الشركة أنها حذفت 344,000 إعلان من هذا القبيل في Facebook وInstagram بين نوفمبر ويناير فقط، كما رفعت دعوى قضائية ضد شركة واحدة على الأقل روّجت لخدمات nudify. وصفت سيندي ساوثوورث من Meta هذه الأدوات بأنها «مقززة» وتحدثت عن تقنية ذكاء اصطناعي جديدة لحظرها وتبادل البيانات مع منصات أخرى.
ماذا يعني هذا
في حد ذاته، حصل إعلان Kromix على صفر تقريبًا من الوصول — معظم الإعلانات عُرضت أقل من عشر مرات. لكن المهم هو الحقيقة نفسها: المراجعة التلقائية في Meta سمحت مرة أخرى بمرور محتوى ينتهك قواعدها الخاصة. طالما تعتمد الفحوصات على الأغلفة ولا تحلل محتوى الفيديو أو المسار الصوتي، ستعود مثل هذه الحملات — ربما بسيناريوهات أكثر عدوانية.
