В эпоху стремительного развития искусственного интеллекта (ИИ) мир столкнулся с новой угрозой - массовым распространением так называемых "дипфейков", особенно в сфере порнографии. Из-за участившихся жалоб, компания Google, лидер среди поисковых систем, объявила о внедрении комплекса мер, направленных на защиту обычных и знаменитых пользователей от интимного контента.
Основные нововведения Google включают:
- Упрощение процедуры удаления вредоносного контента для жертв.
- Автоматическое понижение рейтинга сайтов с большим количеством жалоб на дипфейки.
- Фильтрацию результатов поиска, содержащих имена потенциальных жертв.
Данные шаги призваны значительно снизить видимость поддельных интимных изображений в результатах поиска. По данным компании, уже удалось сократить показ такого контента на 70% для определенных типов запросов.
Однако эксперты отмечают, что проблема требует более комплексного подхода. Кейтлин Сирагуза, известный стример, ставшая жертвой дипфейков, подчеркивает, что борьба с распространением поддельных изображений остается сложным и изнурительным процессом для пострадавших.
Законодательные инициативы и общественная дискуссия
На фоне растущей угрозы конгрессмен США Джозеф Морелле выступил с предложением федерального закона о криминализации создания дипфейков. Законопроект "О предотвращении дипфейков интимных изображений" получил поддержку как демократов, так и республиканцев.
Эксперты, включая Андреа Пауэлл из Alecto AI, подчеркивают необходимость комплексного подхода:
- Ужесточение ответственности для платформ, распространяющих вредоносный контент.
- Создание эффективных инструментов для быстрого удаления дипфейков.
- Организация поддержки для жертв, включая психологическую помощь.
Глобальный масштаб проблемы
Исследователи отмечают, что количество сайтов, предлагающих доступ к дипфейкам, превышает 9 тысяч. Особую тревогу вызывает появление NFT с поддельными интимными изображениями знаменитостей.
Лэндон Кляйн, представитель Института будущего жизни, призывает к созданию системы ответственности для всей цепочки производства и распространения дипфейков - от разработчиков искусственного интеллекта до платформ, размещающих контент.
Несмотря на все предпринимаемые меры, полное решение проблемы остается сложной задачей. Google признает технические трудности в различении реального и поддельного контента. Компания планирует дальнейшие улучшения алгоритмов в ближайшие месяцы.
Однако Google по-прежнему не снижает рейтинг общих запросов, которые могут привести к вредоносному контенту. Запросы вроде "обнаженные знаменитости дипфейк" всё ещё приводят к популярным сайтам с нежелательными изображениями. Единственное недавнее действие Google по снижению рейтинга таких сайтов - это обещание понижать рейтинг "сайтов, получивших большое количество запросов на удаление фейковых откровенных изображений."
Эксперты подчеркивают, что борьба с дипфейками требует не только технологических решений, но и изменений в общественном сознании. Необходимо повышать осведомленность о проблеме и развивать культуру уважения к личной жизни в цифровую эпоху.
В заключение можно сказать, что проблема интимных изображений и видеороликов, созданных с помощью ИИ, ставит перед обществом серьезные этические и правовые вопросы. Усилия Google являются важным шагом, но эффективное решение требует согласованных действий технологических компаний, законодателей и общества в целом. Только комплексный подход может обеспечить защиту прав и достоинства людей в цифровом мире.
