Оказывается, научить искусственный интеллект (ИИ) сомневаться и быть неуверенным - задача не из легких. Но именно это и удалось сделать исследователям из Технологического института Джорджии.
Каждый день мы принимаем около 35 000 решений. От простых, вроде "что съесть на обед?", до сложных, как "безопасно ли сейчас переходить дорогу?". И в каждом решении мы взвешиваем варианты, вспоминаем похожие ситуации из прошлого и оцениваем, насколько мы уверены в правильности выбора. А иногда в одной и той же ситуации мы принимаем разные решения!
Нейросети же обычно действуют совсем иначе - они всегда принимают одинаковые решения в одинаковых ситуациях. Но команда исследователей под руководством профессора Добромира Рахнева решила это изменить и научить нейросети принимать решения более по-человечески.
"Нейросети принимают решения, не сообщая, насколько они уверены в своем выборе", - объясняет Фаршад Рафиеи, один из авторов исследования. "Это одно из ключевых отличий от того, как принимают решения люди".
Вспомните, как иногда чат-боты на основе больших языковых моделей выдают совершенно фантастические ответы на вопросы, о которых они ничего не знают. В отличие от них, большинство людей в такой ситуации просто признают, что не знают ответа.
Исследователи создали новую нейросеть под названием RTNet и обучили ее распознавать рукописные цифры. Но самое интересное - они научили ее оценивать свою уверенность в ответах и даже сомневаться!
Для этого они использовали два ключевых компонента: байесовскую нейронную сеть, которая использует вероятности для принятия решений, и процесс накопления доказательств, который отслеживает аргументы в пользу каждого выбора. В результате RTNet может принимать немного разные решения каждый раз, совсем как люди.
Исследователи даже проверили, становится ли нейросеть менее точной, когда ей нужно принимать решения быстрее - это известный психологический феномен, называемый "компромиссом между скоростью и точностью".
Когда результаты работы RTNet сравнили с результатами 60 студентов, выполнявших те же задания, оказалось, что точность, время реакции и уровень уверенности у нейросети и людей были очень похожи!
"Если мы попытаемся сделать наши модели ближе к человеческому мозгу, это проявится в самом поведении без дополнительной настройки", - говорит Рафиеи.
Исследователи надеются, что в будущем такие "человечные" нейросети смогут не только имитировать наши способности принимать решения, но и помогать нам справляться с когнитивной нагрузкой от тех 35 000 решений, которые мы принимаем каждый день.
Представьте себе ИИ-помощника, который не только выполняет команды, но и может сказать: "Я не уверен, может быть, стоит подумать еще?" Такой ИИ будет не только более надежным, но и более дружелюбным по отношению к человеку.
Источник:
DOI: 10.1038/s41562-024-01914-8
-------------------------------------
Поддержите наш проект: подпишитесь на канал, поставьте лайк или напишите комментарий, а также подписывайтесь на наши страницы на других площадках, в том числе на сервисе поддержки авторов Бусти. Ссылки найдёте в описании канала. Заранее спасибо!