কী ঘটেছে
মেটা এমন একটি বিজ্ঞাপন দেখানোর অনুমতি দিয়েছে যা নারী রাজনীতিবিদদের স্পষ্ট ডিপফেক তৈরি করতে উৎসাহিত করে। речь идет об инструменте Kromix, который называет себя «AI image styler». В одном из роликов на фоне флага США появлялась женщина, похожая на известного американского политика, с подписью «What if she moved?» — после подмигивания камера переходила к порнографическому видео с тем же лицом. বিজ্ঞাপনটির সাথে একটি ভয়েস বার্তা ছিল যেখানে দাবি করা হয়েছিল যে পরিষেবাটির "কোনও সীমাবদ্ধতা নেই", "সব চরিত্রই বাস্তব মানুষ" এবং এটি "AI যা সত্যিই পুরুষরা ব্যবহার করে"।
মেটার নিয়ম সত্ত্বেও যা যৌন বিষয়বস্তু এবং নুডিফাই অ্যাপের প্রচার নিষিদ্ধ করে, ক্যাম্পেইনটি কিছু সময়ের জন্য চলেছিল। ভিডিওটি টেক ট্রান্সপারেন্সি প্রজেক্টের গবেষকরা আবিষ্কার করেছিলেন। মেটার বিজ্ঞাপন লাইব্রেরির তথ্য অনুসারে, ক্যাম্পেইনটি শুধুমাত্র পুরুষদের লক্ষ্য করে ছিল এবং "Unleash Next-gen AI Magic" স্লোগান ব্যবহার করেছিল। মোট ৩২টি বিজ্ঞাপন অ্যাকাউন্টের সাথে যুক্ত ছিল, যা ৫ থেকে ৪৬ ঘণ্টা ধরে দেখানো হয়েছিল; বেশিরভাগই দশটির বেশি প্রদর্শন পায়নি।
অ্যাপ সম্পর্কে কী জানা যায়
সাংবাদিকদের যোগাযোগের সময় Kromix এখনও অ্যাপ স্টোরে উপলব্ধ ছিল। পেইড সংস্করণটি "bedroom rape" এবং "Disney love" এর মতো ভয়ঙ্কর নামের দৃশ্যের জন্য ছবি আপলোড করার অনুমতি দেয়। ভিতরে স্পাইডার-ম্যান পোশাকে নারীদের AI-জেনারেটেড পর্নো ভিডিওও ছিল। মন্তব্যের অনুরোধে ডেভেলপাররা সাড়া দেয়নি।
অ্যাপল ইতিমধ্যে ডিপফেক টুলের কারণে সমালোচনার মুখোমুখি হয়েছে। সান ফ্রান্সিসকোর সিটি অ্যাটর্নি কোম্পানিটিকে একটি চিঠি পাঠিয়ে ১৩টি নির্দিষ্ট অ্যাপ ব্লক করার এবং স্পষ্ট জাল ছবি বিক্রিতে "সহায়তা" বন্ধ করার দাবি জানিয়েছিলেন।
এটি কীভাবে মডারেশন পাস করল
মেটার ডকুমেন্টেশন অনুসারে, প্রতিটি বিজ্ঞাপন প্রকাশের আগে স্বয়ংক্রিয় পরীক্ষার মধ্য দিয়ে যায়। কিন্তু Kromix-এর ক্ষেত্রে, বিজ্ঞাপনটি সৈকত, পাহাড় এবং জলপ্রপাতের কভার ব্যবহার করেছিল — পর্নোগ্রাফিক ভিডিওটি ক্লিক করার পরেই খুলত। মেটা নিশ্চিত করেছে যে তারা এই কৌশল সম্পর্কে জানে। উপরন্তু, বিজ্ঞাপন পৃষ্ঠাটি ৩ আগস্ট তৈরি করা হয়েছিল এবং এর কোনো ফলোয়ার ছিল না — যা নিজেই সন্দেহজনক মনে হয়েছিল।
মডারেশন ভয়েসওভারটিও লক্ষ্য করেনি, যেখানে পরিষেবাটি নিজেকে সীমাবদ্ধতা ছাড়াই একটি টুল হিসেবে সরাসরি প্রচার করছিল। শেষ পর্যন্ত, WIRED-এর অনুরোধের পরেই বিজ্ঞাপনটি সরানো হয়েছিল।
কেন এটি একটি বিচ্ছিন্ন ঘটনা নয়
রাজনীতিবিদরা, বিশেষ করে নারীরা, বছরের পর বছর ধরে অনিচ্ছাকৃত ডিপফেকের লক্ষ্যবস্তু হয়ে আসছেন। অফিসিয়াল প্রতিকৃতি এবং প্রেস কনফারেন্সের রেকর্ডিং ইন্টারনেটের যেকোনো ব্যবহারকারীর জন্য উপলব্ধ টুলের কাঁচামাল হয়ে উঠেছে, আমেরিকান সানলাইট প্রজেক্টের বেঞ্জামিন শুল্টজ উল্লেখ করেছেন। জানুয়ারিতে Grok-এর মাধ্যমে প্রায় তিন মিলিয়ন যৌনীকৃত ছবি তৈরি করা হয়েছিল; সুইডেন, ইংল্যান্ড এবং উত্তর আয়ারল্যান্ডের মহিলা কর্মকর্তারা লক্ষ্যবস্তু হয়েছিলেন।
মেটা, মনে হচ্ছে, গবেষকরা হাজার হাজার подобных বিজ্ঞাপন খুঁজে পাওয়ার পরে সমস্যাটি মোকাবেলার চেষ্টা করছে। কোম্পানিটি দাবি করেছে যে শুধুমাত্র নভেম্বর থেকে জানুয়ারির মধ্যে এটি Facebook এবং Instagram-এ ৩৪৪,০০০টি подобных বিজ্ঞাপন মুছে ফেলেছে, এবং নুডিফাই পরিষেবা প্রচারকারী অন্তত একটি ফার্মের বিরুদ্ধে মামলা করেছে। মেটার সিন্ডি সাউথওয়ার্থ এই ধরনের টুলকে "ঘৃণ্য" বলে অভিহিত করেছেন এবং তাদের ব্লক করার জন্য একটি নতুন AI প্রযুক্তি এবং অন্যান্য প্ল্যাটফর্মের সাথে ডেটা শেয়ারিং সম্পর্কে বলেছেন।
এর অর্থ কী
Kromix বিজ্ঞাপনটি নিজেই প্রায় শূন্য নাগাল পেয়েছে — বেশিরভাগ বিজ্ঞাপন দশবারেরও কম দেখানো হয়েছে। কিন্তু আসল বিষয়টি গুরুত্বপূর্ণ: মেটার স্বয়ংক্রিয় মডারেশন আবারও নিজস্ব নিয়ম লঙ্ঘনকারী কন্টেন্ট পাস করেছে। যতক্ষণ না পরীক্ষাগুলি কভারের উপর নির্ভর করে এবং ভিডিওর বিষয়বস্তু বা অডিও ট্র্যাক বিশ্লেষণ না করে, подобные ক্যাম্পেইনগুলি ফিরে আসবে — সম্ভবত আরও আক্রমণাত্মক দৃশ্যের সাথে।
