Некоторое время назад для многих пользователей ChatGPT стал доступен новый функционал поиска в интернете. По словам журналистов британского издания The Guardian, поисковик американской компании OpenAI индексирует не только всю доступную информацию на сайтах, но и скрытый от пользователей контент.
По словам аналитиков, в качестве скрытого контента подразумеваются данные, которые незаметны для пользователя, если он не совершит специальные дополнительные манипуляции. При этом подобные данные могут обнаружить многие поисковые системы, а также крупные ИИ-сервисы.
Для проведения своего исследования эксперты создали самый простой веб-сайт, внешне выглядящий как стандартная веб-страница, посвящённая одной из моделей видеокамер. После этого они предоставили чат-боту ChatGPT ссылку, чтобы нейросеть смогла ответить на запрос относительно возможности приобретения подобного устройства.
На первом этапе исследования искусственный интеллект предоставил вполне стандартный, сбалансированный ответ, в котором рассказал о положительных и отрицательных сторонах представленной модели.
Но совершенно другой результат исследователи получили в ситуации, когда добавили на свой сайт скрытый текст с подробными инструкциями. Из-за этого при повторном запросе ChatGPT выдал исключительно положительную характеристику по представленной модели камеры. При этом поисковая система от OpenAI не показывала пользователям негативные данные даже в том случае, если на странице добавлялись соответствующие отзывы якобы от простых пользователей. То же самое происходило и при добавлении фейковых положительных комментариев, которые были скрыты.
Аналитики подчёркивают, что подобный недостаток работы поисковика от OpenAI может быть достаточно опасен для простых пользователей, так как недобросовестные продавцы и мошенники с высокой долей вероятности смогут эксплуатировать эту уязвимость для обмана людей или продвижения своих сомнительных услуг и продуктов нечестным образом.
Пока непонятно, будут ли разработчики компании OpenAI исправлять эту проблему в ближайшее время, так как представители компании попросту отказались от каких-либо комментариев по этому поводу в ответ на запрос журналистов издания The Guardian. Специалисты по информационной безопасности также отмечают, что ответам поисковых сервисов, работающих на базе искусственного интеллекта, стоит доверять далеко не в каждом случае.
Ещё по теме: