Не ведает, что говорит: почему голосовой помощник «глупее» обычного поисковика

Чтобы получить нужную информацию, люди все чаще обращаются к голосовым помощникам, которые, как кажется, могут найти простой ответ на любой вопрос. В то же время современные ученые утверждают, что языковые модели ИИ, на которых основаны голосовые помощники, не столько понимают нас, сколько имитируют это понимание.

Недавно Чираг Шах, специалист по поисковым технологиям из Вашингтонского университета, и его коллега Эмили Бендер, изучающая компьютерную лингвистику и этические проблемы обработки естественного языка, опубликовали статью, в которой поделились опасениями, что использование для поиска языковых моделей может привести к распространению дезинформации и поляризации общественного мнения. Бендер считает, что упрощать поиск информации до простого вопроса к эксперту, который якобы знает все, — это весьма инфантильный подход.

Например, Google использует ИИ, чтобы повысить точность интерпретации запросов пользователей в уже существующем поисковом софте. Однако исследователи убеждены — с помощью ИИ можно пересмотреть саму сущность поиска.

Искусственный интеллект, обученный на сотнях книг и бесчисленных интернет-страницах, имитирует естественный язык в высшей степени убедительно. Почему бы не использовать его как своего рода поисковую систему, которая синтезирует информацию из нескольких источников и упаковывает ее в удобочитаемые предложения? Проблема в том, что языковые модели ИИ — это бездумная имитация. Они могут подобрать нужное слово или достроить фразу. Но языковые модели не осознают, что говорят, и не могут рассуждать о том, какие смыслы транслируются с помощью создаваемых ими же слов, складываемых в предложения.