Эксперты обеспокоены доступностью онлайн-чат-ботов, генерирующих обнаженные изображения реальных людей по запросам пользователей. По их мнению, дипфейки создадут «совершенно кошмарный сценарий». Под пристальное внимание попал Telegram, в котором доступны около 50 таких чат-ботов, сообщаетиздание Wired.
Расследование Wired в отношении Telegram выявило десятки чат-ботов на базе искусственного интеллекта, которые «создают откровенные фотографии или видео людей всего за пару кликов». Некоторые из них «снимают одежду» с изображений, а другие могут создавать фотографии людей, занимающихся сексом. По оценкам издания, около 4 млн пользователей в месяц пользуются возможностями чат-ботов по созданию фейковых изображений.
«Мы говорим о значительном, на порядок увеличении числа людей, которые явно активно используют и создают этот вид контента», — рассказал Wired эксперт по дипфейкам Генри Айдер, который был одним из первых, кто обнаружил подпольный мир откровенных чат-ботов Telegram четыре года назад.
«Действительно, вызывает беспокойство тот факт, что эти инструменты, которые реально разрушают жизни и создают кошмарную ситуацию, в первую очередь для молодых девушек и женщин, по-прежнему так легко доступны и их можно найти на поверхности Интернета, в одном из крупнейших приложений в мире», — добавил Айдер.
Помимо таких знаменитостей, как Тейлор Свифт и Дженна Ортеги, жертвами роста порнографических дипфейков для создания обнаженных фотографий стали девочки-подростки. Некоторые из фото использовались для «секс-шантажа». Недавний опрос показал, что 40% американских школьников сообщили о распространении дипфейков в своих школах.
По данным Wired, сайты с дипфейками процветали на фоне достижений в области технологий искусственного интеллекта, но привлекли пристальное внимание законодателей. В августе прокуратура Сан-Франциско подала в суд как минимум на дюжину «раздевающих» сайтов.
В Telegram боты могут использоваться для переводов, игр, оповещений или, как в данном случае, для создания опасных дипфейков. Wired связалось с компанией по поводу откровенного контента чат-бота, но не получила ответа. Однако боты и связанные с ними каналы внезапно исчезли.
«Подобные фейковые изображения могут нанести вред здоровью и благополучию человека, вызывая психологическую травму и чувства унижения, страха, смущения и стыда», — сказала Эмма Пикеринг, руководитель отдела по борьбе с насилием с использованием технологий и расширению экономических прав и возможностей в британской организации по борьбе с домашним насилием Refuge.
«Хотя эта форма насилия распространена, виновные редко привлекаются к ответственности и мы знаем, что этот тип насилия становится все более распространенным в отношениях между близкими партнерами», — говорит Пикеринг.
Елена Михейл, директор и соучредитель правозащитной группы #NotYourPorn, заявила, что ее беспокоит, насколько сложно «отслеживать и контролировать» приложения в Telegram, продвигающие откровенные изображения.
«Представьте, что вы пострадавший, которому приходится делать это самостоятельно, наверняка эта нагрузка не должна ложиться на отдельного человека. Разумеется, бремя лежит на компании, которая должна внедрить что-то проактивное, а не реактивное», — говорит Михейл.
Недобровольная фейковая порнография запрещена во многих штатах, однако эксперты утверждают, что условия предоставления услуг Telegram в отношении контента категории X расплывчаты.
«Я бы сказала, что на самом деле неясно, запрещено ли на платформе создание или распространение интимных изображений без согласия других лиц», — говорит Кейт Руан, директор проекта по свободе слова Центра демократии и технологий.
Ранее в этом году генеральный директор Telegram Павел Дуров был арестовани обвинен в содействии распространению детской порнографии. В своем заявлении он сообщил, что платформа регулярно сотрудничает с правоохранительными органами по их просьбе и «не позволяет преступникам злоупотреблять платформой или уклоняться от правосудия».
Однако эксперты говорят, что Telegram следует привлечь к ответственности. «Telegram предоставляет функцию поиска, которая позволяет вам идентифицировать сообщества, чаты и ботов», — сказал Айдер.
В сентябре основатель и глава Telegram Павел Дуров заявил, что платформа для обмена сообщениями приступила к удалению «проблемного контента» и будет более активно выполнять запросы правительств. Это заявление было сделано спустя несколько недель после его ареста во Франции по обвинению в непринятии мер против преступников, использующих приложение.
