Современные системы искусственного интеллекта становятся всё быстрее, точнее и продуктивнее. Они пишут тексты, анализируют данные, создают изображения и помогают принимать решения. Но, как считают учёные, одного качества им по-прежнему не хватает — мудрости.
Когда задача не имеет одного правильного ответа
ИИ отлично справляется с чётко сформулированными задачами. Но в реальной жизни проблемы редко бывают однозначными. Они требуют учёта разных точек зрения, неопределённости, противоречивых данных и социальных нюансов.
Именно здесь машины начинают «буксовать». У них нет набора стратегий, которые помогают человеку ориентироваться в сложных жизненных ситуациях — принимать трудные решения, признавать границы своего знания и учитывать контекст.
Международная группа исследователей предложила конкретные способы интегрировать элементы мудрости в ИИ, чтобы сделать его более надёжным и безопасным.
Что учёные понимают под «мудростью»
По словам профессора психологии Университета Ватерлоо Сэма Джонсона, мудрость — это не просто высокий интеллект или объём знаний. Это набор ментальных навыков, позволяющих действовать в условиях неопределённости.
К таким навыкам относятся:
- интеллектуальная скромность — признание ограничений собственных знаний,
- поиск альтернативных точек зрения,
- адаптация к контексту,
- гибкость в оценке возможных последствий.
Идея исследователей заключается в том, чтобы формализовать эти стратегии и встроить их в архитектуру ИИ.
Метакогниция для машин
Ключевое направление — развитие метакогниции, то есть способности «думать о собственном мышлении».
Для человека это означает умение задать себе вопрос: «А точно ли я прав?», «Чего я не учитываю?», «Какие есть альтернативы?».
Для ИИ это может означать распознавание границ своей компетенции, явное обозначение неопределённости и более аккуратную работу с неоднозначными данными.
Учёные предлагают использовать специальные методы обучения больших языковых моделей, новые архитектурные решения и даже тесты для измерения уровня «мудрости» ИИ.
По мнению авторов, «мудрый» ИИ будет:
- лучше справляться с новыми и нестандартными задачами,
- эффективнее сотрудничать с людьми,
- быть более прозрачным и понятным для пользователей,
- безопаснее с точки зрения согласования целей с человеческими ценностями.
Сегодня возможности ИИ растут стремительно, но механизмы самоконтроля и рефлексии за ними не успевают. Это создаёт риск: система может быть чрезвычайно умной, но при этом действовать без понимания контекста.
Сэм Джонсон сравнивает ситуацию с ребёнком-вундеркиндом. Даже если он самый умный в мире, ему всё равно не доверят критически важные решения. Не потому что он глуп, а потому что ему не хватает жизненной зрелости.
ИИ, по мнению исследователей, всё больше напоминает такого гения. Мощного, впечатляющего, но пока лишённого внутреннего «компаса».