Компания Apple, известная своим строгим контролем над App Store, столкнулась с серьёзной проблемой: приложения «двойного назначения» обходят существующие ограничения и позволяют пользователям создавать поддельное порно, в том числе с использованием лиц несовершеннолетних.
По данным 404 Media, в магазине приложений Apple появились программы, которые на первый взгляд кажутся безобидными, но на самом деле предоставляют функции для замены лиц на видео. Эти приложения часто распространяются бесплатно, но предлагают платные опции, позволяющие пользователям манипулировать контентом с популярных порносайтов.
Проблема вышла на свет, когда журналисты обнаружили на Reddit рекламу приложения для замены лиц. Дальнейшее расследование показало, что подобные программы легко найти в App Store, и они предлагают пользователям заменять лица на видео с «любимых сайтов», включая PornHub.
Несмотря на то, что Apple запрещает размещение порнографических приложений в своём магазине, некоторые разработчики научились обходить эти ограничения. Они создают приложения, которые на первый взгляд не связаны с порнографией, но содержат функции, позволяющие пользователям создавать и распространять непристойный контент.
Когда Apple уведомили о двойном назначении одного из таких приложений, оно было оперативно удалено. Однако этот случай показал, что компания, похоже, не была осведомлена о масштабах проблемы.
Эксперты отмечают, что функции искусственного интеллекта в современных приложениях позволяют создавать невероятно реалистичные дипфейки. Для таких компаний, как Apple, критически важно опережать эти тенденции и разрабатывать эффективные меры противодействия.
Хотя полностью остановить подобное использование технологий невозможно, Apple может ввести более строгую политику проверки приложений. Например, компания уже запретила сайтам с дипфейками использовать регистрацию через Apple ID. Следующим шагом может стать запрет на доступ к контенту с порносайтов через приложения и введение особых правил для потенциально опасных программ.
Однако приложения для замены лиц – не единственная проблема. В App Store по-прежнему можно найти программы, которые под видом «чатов для взрослых» или «интимных видеочатов» пропагандируют супружескую неверность и другие сомнительные практики.
Ситуация с приложениями «двойного назначения» ставит перед Apple серьёзный вызов. Компании предстоит найти баланс между свободой разработчиков и необходимостью защитить пользователей от потенциально опасного контента. От того, насколько успешно компания справится с этой задачей, во многом зависит репутация App Store как безопасной и контролируемой платформы для распространения ПО.
Ещё по теме: