На прошлой неделе должны были появиться поисковые системы, основанные на базе чат-ботов. Основная идея заключалась в том, чтобы боты, с помощью искусственного интеллекта, изменили наш опыт поиска в Интернете, отвечая на наши вопросы в форме беседы, а не простым списком ссылок, что мы сейчас и наблюдаем в поисковых системах. Но... все пошло не по плану.
Приблизительно через две секунды после того, как компания Microsoft разрешила пользователям пошариться в своей новой поисковой системе Bing с использованием чат-бота ChatGPT, люди начали замечать, что на некоторые запросы она отвечает неверными или бессмысленными ответами, например, теориями заговора. У компании Google был неловкий момент, когда ученые обнаружили фактическую ошибку в собственной рекламе чат-бота Bard, в следствии чего цена акций компании снизилась на 100 миллиардов долларов.
Что делает все это более шокирующим, так это то, что оно не стало неожиданностью для большинства из тех, кто уделяет внимание языковым моделям ИИ.
Вот в чем проблема: технология еще разрабатывается, а ее применение в таких масштабах невозможно
Языковые модели искусственного интеллекта – настоящие болтуны. Они прекрасно предсказывают следующее слово в предложении, но не имеют информации о том, что на самом деле означает предложение. Это делает их крайне опасными для использования в поиске, где очень важно знать только факты.
Компания OpenAI, создатель популярного чат-бота ChatGPT, всегда подчеркивала, что это все еще всего лишь исследовательский проект и он постоянно развивается по мере получения отзывов от людей. Это не остановило Microsoft интегрировать его в новую версию Bing, хотя и с оговорками, что результаты поиска могут быть недостоверными.
Компания Google использует обработку естественного языка в течение многих лет, чтобы помочь людям осуществлять поиск в Интернете, используя целые предложения вместо ключевых слов. Однако, до сих пор компания неохотно интегрировала собственную технологию чат-ботов с искусственным интеллектом в свою поисковую систему, говорит Чираг Шах, профессор Вашингтонского университета, специализирующийся на поиске в Интернете. Руководство Google было обеспокоено «репутационным риском» поспешного внедрения инструмента, похожего на ChatGPT. Какое стечение обстоятельств!
Недавние промахи крупнейших технологических компаний не означают, что поиск с использованием ИИ безнадежен
Один из способов, с помощью которого Google и Microsoft пытаются сделать свои поисковые сводки, сгенерированные с помощью ИИ, более точными – это приведение ссылок. Ссылки на источники позволяют пользователям лучше понять откуда поисковик берет информацию, говорит Маргарет Митчелл, исследователь и специалист по этике в стартапе ИИ Hugging Face, которая раньше была одним из руководителей группы по этике ИИ в Google.
По ее словам, это может помочь людям взглянуть на вещи с разных сторон, подтолкнуть их просмотреть больше источников, чем они могли бы сделать в ином случае.
Но это никак не решает фундаментальную проблему, заключающуюся в том, что данные модели ИИ придумывают информацию и выдают ложные утверждения. И когда текст, сгенерированный ИИ, выглядит компетентным и ссылается на источники, то эта нелепая случайность может снизить вероятность того, что пользователи будут перепроверять информацию, которую они видят.
«Многие люди не проверяют цитаты. Ее наличие придает чему-то правильности, которой на самом деле может и не быть,» - говорит Митчелл.
Но точность результатов поиска на самом деле не главное для крупнейших технологических компаний, говорит Шах
Хотя Google изобрела технологию, которая подпитывает сегодняшнюю шумиху вокруг ИИ, всеобщее признание и внимание прикованы к оживленному стартапу OpenAI и его попечителю, компании Microsoft.
«Это определенно возмущает Google. Сейчас они находятся в оборонительной позиции. Они не были в таком положении долгое время», - говорит Шах.
Между тем, Microsoft сделала ставку на то, что ожидания в отношении Bing настолько низки и не будут иметь большого значения при нескольких ошибках. По слова Шаха, выиграть еще пару процентов будет для них огромной победой.
Кроме поиска с использованием ИИ, есть еще более масштабная игра, добавляет Шах
Поиск – лишь одна из областей, в которых два технологических гиганта ведут борьбу друг с другом. Они также конкурируют в сфере облачных вычислений, программного обеспечения для повышения производительности и корпоративного программного обеспечения. Разговорчивый ИИ становится новым способом продемонстрировать передовые технологии, которые применяются в других сферах бизнеса.
Шах предполагает, что компании собираются использовать первые заминки как возможность для обучения.
«Вместо того, чтобы подходить к этому с осторожностью, они действуют очень смело. Позвольте (системе ИИ) совершать ошибки, потому что теперь кот вынут из мешка», - говорит он.
По сути, мы – пользователи – сейчас выполняем работу по тестированию этой технологии бесплатно. «На данный момент всем мы – подопытные кролики» - говорит Шах.
· Адаптация и перевод статьи с сайта MIT Technology Review.
· Автор перевода статьи - IT Buzz
Источник