Bloomberg: порнографические дипфейки становятся угрозой

По данным исследователей, популярность приложений и веб-сайтов, использующих искусственный интеллект для раздевания женщин на фотографиях, стремительно растет. Только в сентябре 24 миллиона человек посетили сайты с раздеванием, согласно данным компании Graphika, занимающейся анализом социальных сетей.

По данным Graphika, многие из этих сервисов для раздевания или “обнажения тела” используют популярные социальные сети для маркетинга. Например, по словам , с начала этого года количество ссылок, рекламирующих приложения для раздевания, увеличилось более чем на 2400% в социальных сетях, в том числе на X и Reddit.

Многие сервисы работают только для женщин. Эти приложения являются частью тревожной тенденции разработки и распространения порнографии без согласия пользователя из-за достижений в области искусственного интеллекта — тип сфабрикованных медиа, известных как порнографические «дипфейки». Его распространение наталкивается на серьезные юридические и этические препятствия, поскольку изображения часто берутся из социальных сетей и распространяются без согласия, контроля или ведома субъекта.

В одном изображении, размещенном в X, рекламирующем приложение для раздевания, использовались формулировки, предполагающие, что клиенты могут создавать изображения обнаженной натуры, а затем отправлять их человеку, чье изображение было раздето в цифровом виде, что подстрекает к домогательствам.

Несанкционированная порнография общественных деятелей уже давно стала бичом Интернета, но эксперты по защите частной жизни все больше обеспокоены тем, что достижения в области технологий искусственного интеллекта сделали программное обеспечение для глубокой подделки проще и эффективнее. “Мы видим, что все больше и больше этого делают обычные люди с обычными целями”, - сказала Ева Гальперин, директор по кибербезопасности Electronic Frontier Foundation. “Вы видите это среди старшеклассников и студентов”.

По словам эксперта, многие жертвы никогда не узнают об этих изображениях, но даже те, кто узнает, могут с трудом заставить правоохранительные органы провести расследование или найти средства для судебного иска.

В настоящее время не существует федерального закона, запрещающего создание поддельной порнографии, хотя правительство США запрещает создание такого рода изображений несовершеннолетних.

В ноябре детский психиатр из Северной Каролины был приговорен к 40 годам тюремного заключения за использование приложений для раздевания на фотографиях своих пациентов, что стало первым судебным преследованием такого рода в соответствии с законом, запрещающим создание поддельных материалов о сексуальном насилии над детьми.

Как ранее ИА «Бизнес Код», Фейки: перечислены ожидающие нас дезинформационные атаки. Тревогу вызывают не фейки сами по себе, а процессы, связанные с их распространением.