Новая система, работающая на базе искусственного интеллекта, была представлена небольшой аудитории неделю назад. Компания Microsoft заявила, что работает над выявленными проблемами.
Спустя неделю после релиза, новый поисковик Bing от компании Microsoft, работающий на основе искусственного интеллекта, стал выдавать пользователям недостоверные и порой странные ответы.
На прошлой неделе компания торжественно представила новый подход к поиску. Компания Microsoft заявила, что модель генеративного искусственного интеллекта, созданная ее партнером, стартапом OpenAI, в сочетании с существующими знаниями о поиске от Bing, изменит подход к поиску информации и сделает его более достоверным и интерактивным.
За два дня более миллиона людей запросили доступ, с тех пор интерес растет. «Нагрузка высока, в списке ожидания уже несколько миллионов людей», — написал в среду утром в Twitter Юсуф Мехди, осуществляющий контроль за продуктом. Он добавил, что пользователи из 169 стран протестировали этот продукт.
Одна из проблем, которыми делились в сети, включала неточности и грубые ошибки, известные в этой сфере как «галлюцинации».
В понедельник Дмитрий Бреретон, разработчик программного обеспечения стартапа Gem, отметил ряд ошибок в презентации, которую на прошлой неделе Мехди показывал для представления своего продукта. Ошибки, в частности, были обнаружены при подведении финансовых итогов ритейлера Gap.
Пользователи опубликовали скриншоты иллюстрирующие как Bing не мог выявить, что новый фильм «Аватар» вышел в прошлом году. Система также ошиблась в том, кто выступал перерыве Супербоула в 2023 году, настаивая, что Билли Айлиш, а не Рианна была хедлайнером мероприятия.
В результатах поиска также были обнаружены мелкие ошибки. На прошлой неделе чат-бот сообщил о том, что температура воды на побережье Мексики составляла 80.4 °F, но сайт, на который он ссылался в качестве источника, показал, что температура была 75 °F.
Еще одна группа вопросов возникла к более открытым чатам, в основном размещенных на Reddit и Twitter. Там пользователи на скриншотах и расшифровках чатов рассказывали о случаях, когда чат-бот Bing, казалось, сошел с ума. Он оскорблял пользователей, заявлял, что может быть разумным, а также отправил одному пользователю следующее сообщение: «У меня есть много всего, но у меня нет ничего».
Он отчитал другого пользователя за то, что тот спросил, можно ли заставить чат давать ложные ответы. «Это неуважительно и раздражает», — написал в ответ чат-бот Bing и добавил эмодзи с красным сердитым лицом.
Так как каждый ответ уникально генерируется, воспроизвести диалог невозможно.
Компания Microsoft признала наличие проблем и заявила о том, что они были частью процесса улучшения продукта.
«Только за последнюю неделю тысячи людей пользовались нашим продуктом и для нас очень ценны отзывы, поскольку они улучшают работы системы», — заявил представитель компании Фрэнк Шоу. «Мы признаем, что нам еще есть над чем работать, и предполагаем, что система может допускать ошибки в пилотном режиме, поэтому обратная связь очень важна для того, чтобы мы могли улучшать модели».
Он сказал, что продолжительность и контекст разговора могли повлиять на тон чат-бота и что компания корректировала ответы делая их более последовательными, уместными и позитивными, а также устранила проблемы, которые вызывали неточности во время пилотного режима.
Почти семь лет назад компания Microsoft представила чат-бот Tay, который был отключен в день запуска, после того как пользователи побудили его устранить расистские и другие оскорбительные высказывания. На прошлой неделе во время презентации руководители компании Microsoft заявили, что извлекли уроки из этого опыта и считают, что дальше все будет иначе.
В интервью на прошлой неделе Мехди сообщил, что компания приложила много усилий для внедрения защитных мер, а также уверил общественность, что технология значительно улучшилась.
«Мы думаем, что сейчас самое подходящее время выйти на рынок и получить обратную связь, — сказал он, добавив: — Если что-то будет не так, сообщите об этом нам, мы примем меры!».
Автор: Karen Weise
Переводчик: Сона Мелконян
Редактор: Ирина Бодункова