Инструменты генеративного ИИ, призванные удерживать пользователей на странице поиска, выдают неафишируемое владельцами содержание
В начале этого года в рамках экспериментов с искусственным интеллектом компания Google выпустила новую функцию поиска, которая предоставляет обзор результатов поиска, созданный искусственным интеллектом. Идея заключается в том, чтобы пользователи быстрее находили ответы на свои вопросы, не покидая страницу с результатами поиска. Google утверждает, что в создаваемых искусственным интеллектом сводках используются ключевые моменты из новостных статей, которые не находятся в платной подписке. Критики утверждают, что такие резюме равносильны воровству и могут стимулировать медийные организации помещать больше своих материалов в рамки платной подписки.
Рассмотрим результаты поиска по запросу "Лучшие фильмы 2022 года", которые, как недавно заметил один из пользователей Twitter, содержат неафишируемые формулировки, удивительно похожие на статью на сайте кинорецензий RogerEbert.com.
В оригинальной статье о лучших фильмах прошлого года фильм "Всё везде и сразу", получивший премию "Оскар" как Лучший фильм, был охарактеризован как "пример редчайшего фильма, в котором не знаешь, что произойдет в следующем кадре".
В ответе Google на поисковый запрос "лучшие фильмы 2022 года", не ссылаясь на RogerEbert.com, говорится следующее: "Этот фильм - редкий пример фильма, в котором вы не знаете, что произойдет в следующем кадре".
Генеративные системы искусственного интеллекта обучаются на огромных массивах данных из Интернета, в том числе и на новостных статьях, якобы для того, чтобы создать контент, который будет выглядеть достаточно естественно, как будто его создал человек.
Медиакомпании опасаются, что использование генеративного ИИ нанесет ущерб их авторитету и лишит потенциального дохода. В результате, новостные организации, в том числе Associated Press, стали требовать от ИИ-компаний оплаты за обучение языковых моделей на их контенте.
Технологические компании начинают признавать, что им необходимо работать с издателями для обучения ИИ воспринимать новостной контент. "Как всегда, мы используем это время за тестами, чтобы собрать отзывы и узнать, что лучше всего подходит как издателям, так и пользователям, и со временем развивать этот эксперимент", - написал Google в своем блоге 15 августа. Эти новые инструменты, склонные к ошибкам, называемым галлюцинациями, также нуждаются в обратной связи с реальными пользователями для совершенствования своих моделей искусственного интеллекта.