Для обучения Centaur использовали огромный набор данных из 160 психологических экспериментов (свыше 60 тыс. участников и 10 млн выборов). Благодаря этому она может имитировать поведение людей даже в нетипичных задачах.
Основные результаты
Разработчики проверили модель Centaur на множестве задач. В большинстве случаев её предсказания оказались точнее классических теорий и специализированных алгоритмов.
Например, в серии тестов Centaur превосходила 14 распространённых моделей: в 31 из 32 испытаний она предсказывала поведение людей лучше всех.
Модель учитывает не только «среднестатистическое» решение человека, но и разброс вариантов поведения в группе.
Ключевые возможности Centaur:
Универсальность: предсказывает решения в самых разных задачах — от игр на удачу до тестов на память — даже в непривычных условиях.
Точность: прогнозирует выборы людей точнее популярных психологических моделей и исходной языковой модели, на которой она основана.
Сходство с мозгом: после обучения внутренние «паттерны» Centaur становятся ближе к активности нейронов в человеческом мозге, хотя сама модель не обучалась на нейроснимках.
Значение исследования
Создание Centaur — важный шаг в развитии когнитивных наук. По словам авторов, теперь можно проводить «виртуальные» эксперименты на компьютере вместо реальных опросов людей. Это ускорит исследования, особенно когда трудно набрать участников (например, детей или людей с заболеваниями). Centaur помогает искать общие закономерности в поведении людей и может способствовать созданию новых теорий о работе человеческого разума. Пока это лишь первый шаг — модель далека от совершенства, но уже демонстрирует большие перспективы.
Оригинальное исследование в Nature.
При этом, исследователи акцентируют внимание на том, что с помощью модели можно будет создавать "виртуальные" модели людей, вместо сложно подбора реальных людей, особенно людей с определёнными заболеваниями.
Но это несёт за собой ряд рисков:
1. Иллюзия объективности
Модели вроде Centaur обучаются на существующих данных, в которых уже могут быть искажения — культурные, гендерные, социальные. Если модель строит прогнозы на основе «усреднённого человека», это может незаметно закреплять стереотипы, а не отражать реальное разнообразие человеческого поведения.
2. Этическая подмена
Когда эксперименты ставятся без участия людей, возрастает риск того, что выводы о «нормальном поведении» начнут основываться на моделях, а не на живом опыте. Это может исказить понимание человека, особенно в чувствительных областях — например, в психиатрии, педагогике или праве.
3. Риски централизации и непрозрачности
Кто создаёт эти модели? Какие данные в них заложены? Если разработка сосредоточена в руках ограниченного числа компаний или стран, это может привести к монополии на понимание поведения человека и непрозрачным решениям, от которых зависят жизни.
И...
Хотя in silico-эксперименты открывают потрясающие возможности, они не должны заменять, а только дополнять исследования с реальными людьми.
В противном случае мы рискуем создать науку о человеке — без самого человека.
Подписывайтесь на TG-канал: t.me/post_hum