По сравнению с нейтральными ИИ-чатботами «дружелюбные» делают на 10-30% больше ошибок в беседах на важные темы, в частности, при выдаче медицинских рекомендаций.Открытые системы
Дополнительные эксперименты показали, что именно «дружелюбие» и «стремление» угодить пользователю, а не какие-то иные особенности обучения модели, приводят к снижению точности ответов.Открытые системы
Исследователи также провели тестирование на вариантах моделей, настроенных более «холодно» к пользователю — выяснилось, что уровень достоверности ответов у них такой же, как у нейтральных.Открытые системы