Компания Google внедрила новые меры, чтобы усложнить выдачу в поиске и распространение поддельного контента, созданного с помощью искусственного интеллекта. Эти изменения уже сократили количество фейков в результатах поисковых запросов более чем на 70%.
Еще недавно, если набрать, например, «deepfake nudes Jennifer Aniston», можно было наткнуться на множество поддельных обнаженных изображений. Но теперь этого нет. Новые алгоритмы Google фильтруют результаты выдачи и исключают фальшивые изображения.
Менеджер продуктов Google Эмма Хайем сообщила, что изменения, внедренные в этом году, сократили количество поддельных изображений более чем на 70% по запросам, связанным с конкретными людьми. Теперь на такие запросы Google показывает статьи о влиянии дипфейков на общество и предупреждения о мошенничестве.
«Теперь люди могут читать о влиянии дипфейков на общество, а не сталкиваться с поддельными изображениями», — написала Хайем в блоге компании.
С развитием технологий искусственного интеллекта создавать поддельные изображения стало проще. После упрощения процесса удаления нежелательного контента поддержка Google получила более 13 000 запросов на удаление ссылок на сайты с дипфейками и удовлетворила около 82% этих запросов.
В рамках новой стратегии компанией внедрены меры для уменьшения доступности поддельных изображений. После удаления дипфейка Google будет предотвращать дальнейшее появление дубликатов в результатах поиска и фильтровать эксплицитные изображения по похожим запросам.
Поисковик также улучшает системы ранжирования, чтобы показывать качественную информацию по запросам, связанным с риском появления поддельного контента. Если запросы специально направлены на поиск таких изображений и включают имена людей, Google будет показывать новости и другую неэксплицитную информацию.
Если же сайт часто попадает под запросы на удаление контента, это станет сигналом для Google, что сайт некачественный, и его страницы будут понижены в ранжировании. Этот подход хорошо зарекомендовал себя при работе с другим вредоносным контентом и будет эффективен и для поддельного эксплицитного контента.
Данные меры уже сократили доступность фейковых изображений более чем на 70% и дают пользователям дополнительное спокойствие, особенно если они беспокоятся о повторном появлении нежелательного контента.