Недавно Google добавил к себе в поисковик искусственный интеллект. Однако ИИ предлагает странные решения для, казалось бы, простейших задач, а также может порой давать крайне опасные советы. Почему ИИ-помощник Google оказался таким «сырым» и почему такие технологии крайне опасны, рассказал эксперт РОЦИТ, директор по информационным технологиям EdgeЦентр Сергей Липов:
«Стоит ли есть камни и вкуснее ли пицца с клеем? На все эти вопросы поисковик Google уверенно отвечает «да» после добавления инструмента искусственного интеллекта (ИИ) AI Overviews. Сейчас эта функция доступна не всем, а лишь некоторым пользователям из США – финальный релиз запланирован на конец этого года. Тем не менее подход компании к ее разработке настораживает небрежностью, а перспективы использования этой опции как инструмента информационной войны пугают своими возможностями. Но обо всем по порядку.
Напомню, с чего все началось – компания Google решила улучшить свой поисковик, добавив в него сгенерированные ИИ ответы. Идея понятна – нейросеть проанализирует весь массив информации и выдаст единый ответ на его основе. В результате пользователю не нужно бороздить все ссылки в поисках правильного и развернутого ответа на свой вопрос. Но, как всегда, что-то пошло не так.
Выяснилось, что ИИ действительно работает так, как задумано – собирает ответы со своей базы данных, систематизирует и выдает пользователю. Вся проблема оказалась в источниках этой информации – в массив вошли ответы из социальной сети Reddit и прочих подобных ресурсов.
В результате в ответ на вопрос о том, как улучшить соус для пиццы, Google посоветует добавить в него клей. А если вам вдруг захочется узнать, можно ли есть камни, то нейросеть любезно уточнит, что нужно есть не менее одного камня в день. Ведь это источник витаминов и минералов, которые важны для здоровья пищеварительного тракта.
Все это звучит забавно, но порой ответы были и более настораживающими. Так, при жалобе пользователя на депрессию Google рекомендует ему спрыгнуть с моста «Золотые Ворота».
Как я уже говорил, сейчас функция доступна лишь части пользователей из США. Однако финальный релиз ИИ-помощника лично у меня вызывает опасения. Причин как минимум две. Первая – Google тестирует функцию уже год. И если даже спустя столько времени поисковик предлагает совершить самоубийство человеку в депрессии, назвать это иначе как преступной халатностью нельзя.
Вторая причина – даже если Google «починит» функцию, то объективность выдаваемой ИИ информации остается под большим вопросом. Уже сейчас любая попытка узнать объективную правду про специальную военную операцию на Украине будет упираться в сотни прозападных статей с однобоким освещением позиции России или вовсе без ее упоминания. Той же дорогой идет и принадлежащий Google видеохостинг YouTube – яблочко от яблони, как говорится. А с внедрением ИИ у человека вовсе отпадет необходимость фактчекинга – весь концентрат западной пропаганды будет обрушен на него в первой же строчке поиска.
Объективность западных онлайн-платформ вызывает вопросы уже сейчас. А введение ИИ, который будет обучен на массиве недостоверной информации, усугубит ситуацию еще больше. Уверен, что к этому однозначно нужно готовиться как на индивидуальном уровне, так и в масштабе всей страны».
Фото: ФедералПресс / Ольга Юшкова