Осторожно, дипфейки! Как видеонейрогенераторы стали массовым инструментом откровенного контента. И почему это опасно.
Некоторые видеогенераторы на базе искусственного интеллекта, преимущественно созданные китайскими компаниями, не имеют даже базовых защитных фильтров, которые должны бы блокировать попытки пользователей создавать эротические и более похабные изображения. Эти нейросети из Поднебесной уже получили широкое распространение по всему миру. В интернете появились целые сообщества, посвящённые созданию и распространению NSFW-контента (Not Safe For Work, что означает «небезопасно для работы» — фото и видео, которые содержат такие материалы, как обнажённая натура, гуро, порнография), сгенерированного ИИ.
Индустрия откровенного ИИ-видеоконтента быстро превратилась в самостоятельную экосистему, сформированную вокруг генераторов фотографий интимного характера, которые затем «оживляются» с помощью чат-ботов для создания роликов. Технологии уже позволяют сгенерировать короткий интимный видеоконтент всего по одной фотографии.
Механизм работы зачастую крайне прост: нужно изображение (исходник) и текстовая подсказка — промт, описывающий сексуальный акт. Более продвинутые нейрогенераторы используют сложные пайплайны, требующие технической подготовки пользователя, но большинство инструментов доступны любому желающему. Многие из них работают на основе популярных, в том числе бесплатных, ИИ-чат-ботов.
Неудивительно, что это привлекло множество энтузиастов, которые уже успели создать мануалы по генерации порно-дипфейков, а также выпустить специализированные модели и инструменты, существенно упрощающие процесс.
«Эти видеогенераторы должны иметь встроенные фильтры, предотвращающие генерацию эротических дипфейков — особенно изображений знаменитостей и обычных людей, созданных без их согласия», — заявил изданию 404media профессор Калифорнийского университета в Беркли Хани Фарид, один из ведущих мировых экспертов в области нейромедиа и цифровой криминалистики.
Для сравнения, генератор изображений DALL·E от OpenAI уже оснащён семантической фильтрацией запросов и встроенной системой модерации вывода генерации. Это позволяет блокировать попытки вывода результата NSFW-контента. Подобные ограничения стали стандартом и применяются во многих соцсетях — от Facebook*/Instagram* до YouTube — чтобы ограничить распространение неприемлемых материалов (NSFW — Not Safe For Work).
Facebook/Instagram признаны экстремистскими и запрещены на территории РФ. Они принадлежат компании Meta, также признанной экстремистской организацией.
Pixverse: главный инструмент NSFW-дипфейков
Скриншот из видео, созданного с помощью Pixverse, которое было распространено в Telegram и подвергнуто цензуре. 1GAI / 404Media
Ссылка на видео
Самый популярный генератор среди NSFW-сообществ, который мы нашли, — Pixverse, разработанный пекинской компанией AIsphere. Её основатель Ван Чанху, бывший руководитель отдела визуальных технологий ByteDance (владельца TikTok). Pixverse используется для создания видеороликов, в которых знаменитости — в частности, женщины — «раздеваются» на экране.
Но как обходят встроенную цензуру? Всё по классике. Пользователи применяют те же уловки, что давно используются для обхода фильтров в нейросетях для создания изображений. В случае с искусственным интеллектом Microsoft Designer, несмотря на его ограничения и цензуру, пользователи смогли обмануть бота и сгенерировать вирусные откровенные изображения Тейлор Свифт, которые разошлись в соцсети X (бывший Twitter), собрав миллионы просмотров.
Секрет прост: пользователи избегали «запрещённых слов» в промтах, заменяя их эвфемизмами, на которые алгоритмы модерации не реагировали. То есть они описывали эротические и интимные промты словами, которые не попадали под ограничения разработчиков.
После скандала Microsoft усилила фильтрацию. Но в случае с новыми AI-видеогенераторами защита до сих пор остаётся слабой. Как же авторы этих дипфейк-фоток обошли цензуру чат-бота?
Всё, что вы хотели знать о нейросетях — технологиях, которые уже прочно вошли в нашу жизнь
Как создаются дипфейк-видео с порно
Современные видеонейросети позволяют загрузить обычную фотографию и с помощью текстового описания превратить её в анимированное эротическое видео. Например, снимки знаменитостей с красной дорожки или из соцсетей загружаются в Pixverse, а промт описывает сцену — от раздевания до половых актов.
Иногда откровенное изображение сначала создаётся другим ИИ (например, в Designer), а затем анимируется через видеонейрогенератор. В интернете до сих пор гуляют вирусные различные версии дипфейков с Тейлор Свифт, основанные на изображениях, созданных ещё до введения цензуры.
Некоторые видеогенераторы «заточены» под определённые сценарии:
- Pixverse — чаще используется для сцен, где женщины снимают одежду.
- Hailuo (Minimax, Китай) — для создания видео с фокусом на ягодицах и поцелуях.
- KlingAI (Kuaishou, Китай) — ранее активно использовался для видео с обнажёнкой и «белыми жидкостями», но после «чистки» модерацией стал менее эффективен.
Тем не менее пользователи продолжают искать лазейки, делятся взломанными моделями и обходными путями.
Сообщества, хакеры и мануалы
В Discord, Telegram, Reddit и даже на GitHub появляются мануалы и инструкции, как обходить фильтры и генерировать NSFW-контент в разных системах. Один из самых популярных видеогенераторов в таких кругах сегодня — Pika, разработанный в США. Он оказался крайне «либеральным» как в части загрузки изображений, так и в понимании промтов.
«Нейросеть Pika легко создаёт дипфейк-видео по одному изображению», — утверждает один из пользователей Telegram-чата, посвящённого откровенным дипфейкам. На Reddit делятся эротическими видео с нейросети Pika, включая различные сексуальные сцены.
Мисинформация или дезинформация: в чём разница?
HunyuanVideo и Civitai: следующее поколение дипфейков
Самой используемой платформой стала HunyuanVideo от китайского техногиганта Tencent. Она была представлена 3 декабря 2024 года вместе с открытыми репозиториями на GitHub и HuggingFace (здесь объясняется, как она работает и где пользователи могут загрузить модель, запустить и изменить её самостоятельно под свои нужды).
Как и в случае с Stable Diffusion, пользователи мгновенно начали модифицировать код HunyuanVideo под NSFW-цели, в частности для производства откровенных изображений конкретных реальных людей, начиная от самых известных в мире кинозвёзд и заканчивая менее известными инфлюенсерами в соцсетях и YouTube-блогерами.
На сайте Civitai появились сотни моделей для HunyuanVideo:
- HunyuanVideo POV Missionary — 18 000 загрузок
- Titty Drop Hunyuan Video LoRA — 14 300
- HunyuanVideo Cumshot — 9 000
Среди самых скачиваемых — модели с внешностью Элизабет Олсен, Натали Портман, Покимане и других известных женщин.
Один из пользователей Telegram, активно публикующий NSFW-дипфейки, признался, что использует модифицированную Hunyuan-модель, специально «заточенную» под известную стримершу в Twitch. С тех пор как Tencent выпустила HunyuanVideo в начале декабря, на Civitai на данный момент уже были опубликованы сотни пользовательских модификаций нейросети, самые популярные из которых посвящены либо конкретным знаменитостям, либо определённым откровенным сценам.
Alibaba тоже в игре: Wan 2.1
Новая открытая модель Wan 2.1 от Alibaba также была быстро адаптирована для подобных эрогенераций. Уже через сутки после релиза на Civitai начали появляться модификации — Better Titfuck и другие.
Хотя Civitai формально запрещает выкладывать порно-дипфейки и интимные модели, тысячи пользователей просто скачивают их и используют на своих компьютерах и серверах. Это подтверждает обилие подобного контента в Сети.
Мобильные ИИ-приложения тоже участвуют
Важно отметить, что такие инструменты можно применить даже с телефона. Например, нейросети Pixverse, Kling, Hailuo и Pika доступны в Apple App Store, а чат-боты на базе ИИ, такие как Pixverse, Kling и Hailuo, — в Google Play Store. Это делает порнографическую дипфейк-генерацию не просто доступной, а повседневной.
Вред реален, несмотря на «виртуальность»
Хотя дипфейки часто создаются для юмора и развлечения, вред и последствия вполне реальные. Уже зафиксированы случаи вымогательства: злоумышленники угрожают распространить поддельный интимный контент, требуя деньги у жертв. В некоторых случаях это доходит уже до атаки сталкеров.
Вывод
Распространение видеогенераторов на базе ИИ — одна из самых тревожных тенденций последних лет. При отсутствии этических фильтров и ограничений они становятся оружием в руках злоумышленников и токсичных пользователей. Законодательство не успевает за технологиями, а модерация платформ слишком медлительна. Массовая доступность этих инструментов ставит под угрозу частную жизнь миллионов.
Обложка: Стоп-кадр из видео, созданного с помощью искусственного интеллекта. Нейросеть Pixverse.
Источник статьи: Chinese AI Video Generators Unleash a Flood of New Nonconsensual Porn
Больше на Онлайн журнал sololaki
Подпишитесь, чтобы получать последние записи по электронной почте.