Apple удалила из AppStore группу приложений после того, как Би-би-си обнаружила, что они рекламируются в TikTok как инструменты для создания дипфейков, «раздевающих» людей на фото без их согласия.
Приложения с функцией «раздевания» (declothing) или «нудификации» (nudify) позволяют цифровым способом убрать одежду с фотографий, создавая изображения или видео с обнаженными или частично обнаженными телами.
На официальных страницах приложений в AppStore и их веб-сайтах они описывались как инструменты, позволяющие «сделать селфи более пикантными».
Однако в рекламе в TikTok разработчики приложений позиционировали их как способ создавать сексуализированные изображения женщин без их разрешения.
В одной рекламе пользователей призывали скачать приложение, чтобы «получить самые горячие фото своего объекта обожания». Другая реклама обещала, что приложение «позволит раздеть кого угодно». В некоторых других заявлялось о способности приложения «переодеть любого человека в бикини».
Мы не называем конкретные приложения, чтобы не привлекать к ним внимания, так как создание сексуализированных изображений людей без их согласия может быть незаконным согласно законодательству ряда стран, включая Великобританию.
Nudify-приложения становятся глобальной проблемой: громкие скандалы уже произошли в Испании, Южной Корее и США, где жертвами этой технологии становились школьницы. Известны случаи, когда созданные с помощью технологии deepfake изображения использовались для шантажа.
По мнению профессора Арвинда Нараянана из Принстонского центра политики в области информационных технологий, ограничение распространения приложений для «нудификации» является моральным долгом технологических компаний.
«Необходимо значительно усложнить доступ пользователей к подобным технологиям», — говорит он, подчеркивая, что регуляторы во всем мире должны запретить подобные приложения и гарантировать, что социальные сети не смогут извлекать прибыль из их рекламы.
В некоторых рекламных роликах на платформе TikTok для демонстрации того, как приложение может раздеть человека до нижнего белья, использовались фотографии звезд сериала «Игра престолов», актрис Лины Хиди и Мэйси Уильямс.
Би-би-си обнаружила, что четыре подобных приложения платили за рекламу в TikTok, который на данный момент удалил эти рекламные ролики.
Однако аналогичные видео, по всей видимости, созданные аккаунтами, связанными с разработчиками приложений, по-прежнему доступны на платформе.
Представитель TikTok заявил Би-би-си, что реклама нарушала правила сервиса, запрещающие платное продвижение контента эротического характера. При этом компания не пояснила, каким образом данные рекламные ролики прошли модерацию.
Компания Apple также отреагировала на расследование Би-би-си, удалив указанные приложения из своего AppStore. Как заявили в компании, три приложения удалены «до тех пор, пока разработчики не устранят выявленные проблемы».
Еще одно приложение, специализирующееся на создании видеороликов с полуобнаженными танцующими женщинами на основе загруженных в него фотографий, было удалено окончательно, а аккаунт его разработчика заблокирован.
Представители Google Play Store сообщили, что начали проверку этих приложений.
Самое популярное из приложений, изученных Би-би-си, было скачано из Google Play более миллиона раз (Apple статистику по скачиваниям приложений не раскрывает).
Хотя оно не позволяло создавать полностью обнаженные изображения, с его помощью можно было легко сгенерировать изображение любого человека с явным сексуальным подтекстом.
Для этого предлагались специальные готовые «паки» — подборки образов, включая такие, где женщины изображаются лежащими на полу или принимающими ванну.
В TikTok приложение рекламировалось как способ «получить самые горячие фото своего краша».
Разработчик ответил на запрос Би-би-си по электронной почте, заявив, что не намеревался рекламировать его как инструмент для создания сексуализированных дипфейков, и пообещал пересмотреть свои практики.
Подпишитесь на канал "Жизнь Дурова: ЗОЖ, деньги, ИТ" - все самое главное о здоровье, технологиях и деньгах