Топ-менеджер Google рассказал о присущих чат-ботам на основе нейросетей «галлюцинациях»

Как сообщает немецкое СМИ Welt am Sonntag, один из топ-менеджеров корпорации Google, ответственный за поисковое направление, Прабхакар Рагхаван, рассказал в интервью, что на данном этапе развития у чат-ботов на основе нейросетей случается нечто вроде «галлюцинаций» – они могут давать внешне правдоподобный, но не имеющий ничего общего с реальностью ответ. По мнению специалиста, одна из главных на настоящий момент задач по совершенствованию нейросетей и проектов на их основе – свести число подобных случаев к минимуму, иначе они не смогут использоваться, например, в поиске.Если говорить о технологиях, то 2022 год без преувеличения можно назвать годом нейросетей – СМИ и тематические ресурсы неоднократно писали об успехах таких проектов, как ChatGPT, Stable Diffusion, и так далее. При этом сама Google опасается конкуренции со стороны чат-ботов, способных выдавать пользователю готовый ответ, а потому работает над собственным чат-ботом Bard. Впрочем, от «галлюцинаций» или явных ошибок не застрахован и он – даже в рекламном ролике бот допустил оплошность, отвечая на вопрос по астрономии. Часто начинают «выдумывать» и конкуренты Bard – например, ChatGPT порой добавляет к реальным фактам вымышленные, если информации по запросу недостаточно.