Sensity, стартап из Амстердама, который занимается кибербезопасностью, провел расследование о чат-боте, который раздевает девушек по фото. Фальшивые изображения более 100 тысяч обнаженных женщин (в том числе девушек моложе 18 лет) были созданы по фотографиям в соцсетях при помощи технологии deepfake и опубликованы в интернете. Естественно, без их ведома и согласия. Это вызвало опасения новой волны дипфейков, которые могут быть использованы для преследования или шантажа.
Пользователи бота могут анонимно отправить фотографию одетой женщины и получить версию со снятой одеждой. Технология ИИ, обученная на больших базах данных реальных обнаженных фотографий, может генерировать подделки с максимальной точностью, подбирая тон кожи и заменяя одежду на оголенную грудь или гениталии. Лица женщин остаются четкими, и к изображениям не прилагается никаких ярлыков, что они фальшивые. На некоторых оригинальных снимках изображены девушки моложе 18 лет. По мнению экспертов, появление такого чат-бота сигнализирует о том, в каких грязных целях используется технология - от подделки изображений знаменитостей и известных фигур до ничего не подозревающих женщин.
«Дело в том, что теперь каждый из нас, просто имея учетную запись в социальных сетях и публикуя фотографии себя и своей жизни публично, находится под угрозой»
Сервис также собирает все недавно созданные поддельные обнаженные натуры в фотогалереи, которые обновляются ежедневно; более 25 000 аккаунтов уже подписались на ежедневные обновления.
Согласно внутренним опросам, самая большая база пользователей бота находится в России, хотя есть участники из США, Европы, Азии и Южной Америки. Новые пользователи могут запросить некоторые из своих первых снимков бесплатно, потом им предлагается заплатить за дальнейшее использование. То есть они еще на этом и зарабатывают! Опция стоит 100 российских рублей или $1,29 за 100 снимков. Юзеры premium могут запросить создание поддельных обнаженных фотографий без водяного знака и скрытие их от публичного канала.
Администратор чат-бота, с которым The Washington Post побеседовал в Telegram, отказался назвать свое имя, но защитил инструмент как безвредную форму сексуального вуайеризма, и заявил, что его операторы не несут ответственности за женщин, на которых нацелена его пользовательская база. Правила бота гласят, что он не позволяет раздевать несовершеннолетних девочек. Но в общедоступных коллекциях сервиса представлены девочки-подростки, в том числе популярная блогерша из TikTok, которой исполнилось 16 лет. По мнению администратора, система была разработана только для того, чтобы удовлетворить фантазии пользователей, и что каждый, кто увидит изображения, поймет, что это подделки:
«Вы сильно преувеличиваете реальность. Сервис не получил ни одной жалобы от девушки за весь период нашей работы. Для работы с нейросетью нужна фотография в купальнике или с минимальным количеством одежды. Девушка, которая выкладывает фотографию в купальнике в Интернет на всеобщее обозрение — с какой целью она это делает? 90% этих девушек выкладывают такие фотографии для того, чтобы привлечь к себе внимание, акцентируя внимание на сексуальности»
Чем ответит на это женское сообщество? Хотя пользователей Telegram среди мужчин больше, но эта история может обернуться бойкотом мессенджера женской частью населения. Кстати, представители Telegram не ответили на запросы с просьбой прокомментировать ситуацию. Очень жду реакции нашего идеального и правильного мужчины - Павла Дурова.
А вы что думаете по этому поводу?
UPD! Бота в Telegram только что заблокировали. Но если что, скоро у меня будет выпуск с разбором всей этой истории. Выложу сюда и на YouTube. Не пропустите!