Что произошло
Meta допустила показ рекламы, которая продвигает генерацию откровенных дипфейков с женщинами-политиками. Речь об инструменте Kromix, который называет себя «AI image styler». В одном из роликов на фоне флага США появлялась женщина, похожая на известного американского политика, с подписью «What if she moved?» — после подмигивания камера переходила к порнографическому видео с тем же лицом. Реклама сопровождалась голосовым сообщением, утверждавшим, что у сервиса «нет ограничений», «все персонажи — реальные люди» и что это «ИИ, которым реально пользуются мужчины».
Несмотря на правила Meta, запрещающие сексуальный контент и продвижение nudify-приложений, кампания какое-то время работала. Видео обнаружили исследователи из Tech Transparency Project. По данным библиотеки объявлений Meta, кампания была нацелена только на мужчин и использовала слоган «Unleash Next-gen AI Magic». Всего с аккаунтом было связано 32 объявления, которые показывались от 5 до 46 часов; большинство так и не набрали больше десяти показов.
Что известно о приложении
Kromix на момент обращения журналистов всё ещё было доступно в App Store. Платная версия позволяла загружать фото для сценариев с пугающими названиями вроде «bedroom rape» и «Disney love». Внутри также находились AI-сгенерированные порновидео с женщинами в костюмах Человека-паука. На запрос комментария разработчики не ответили.
Apple в свою очередь уже сталкивалась с критикой из-за дипфейк-инструментов. Городской прокурор Сан-Франциско направлял компании письмо с требованием заблокировать 13 конкретных приложений и прекратить «пособничество» продаже откровенных фейковых изображений.
Как это могло пройти модерацию
По документации Meta, каждое объявление перед публикацией проходит автоматическую проверку. Но в случае с Kromix реклама использовала обложки с пляжем, горами и водопадами — порнографический ролик открывался уже после перехода. В Meta подтвердили, что знают об этой тактике. Кроме того, страница объявления была создана 3 августа, не имела подписчиков — что само по себе выглядело подозрительно.
Модерация не заметила и голосовое сопровождение, где сервис прямо рекламировал себя как инструмент без ограничений. В итоге рекламу убрали только после запроса WIRED.
Почему это не единичный случай
Политики, особенно женщины, годами остаются целями недобровольных дипфейков. Официальные портреты и записи пресс-конференций превратились в сырьё для инструментов, доступных любому пользователю интернета, отмечает Бенджамин Шульц из American Sunlight Project. В январе через Grok было создано около трёх миллионов сексуализированных изображений; мишенями становились чиновницы в Швеции, Англии и Северной Ирландии.
Meta, судя по всему, пытается бороться с проблемой после того, как исследователи находят тысячи подобных объявлений. Компания утверждает, что только с ноября по январь удалила 344 000 таких объявлений в Facebook и Instagram, а также подала иск как минимум против одной фирмы, продвигавшей nudify-сервисы. Синди Саутворт из Meta назвала такие инструменты «отвратительными» и рассказала про новую AI-технологию для их блокировки и обмен данными с другими платформами.
Что это значит
Сама по себе реклама Kromix получила почти ноль охвата — большинство объявлений показали меньше десяти раз. Но важен сам факт: автоматическая модерация Meta вновь пропустила контент, нарушающий собственные правила. Пока проверки полагаются на обложки и не анализируют ни содержимое видео, ни звуковую дорожку, подобные кампании будут возвращаться — возможно, с ещё более агрессивными сценариями.
