«Яндекс» совместно с нейробиологом Константином Анохиным, академиком РАН, директором Института перспективных исследований мозга МГУ имени М.В. Ломоносова начали эксперимент по развитию сознания у искусственного интеллекта. Обучение нейросетей на собственных рассуждениях может приблизить их к появлению подлинных, а не «навязанных» взглядов, считают в компании. Инициативу прокомментировал для «Российской газеты» директор Института общественных наук Президентской академии, канд.техн.н. Павел Голосов. Републикуем комментарий для наших читателей.
Полной аналогии между искусственными нейросетями и нейронной гиперсетью мозга нет, но здесь можно получить достаточно интересные результаты – например, в части уточненных принципов дообучения как нейросети, так и человека; некоторых процессов синхронизации в так называемых человеко-машинных системах; обогатить сферу ИИ новыми подходами к построению самих сетей и способами формирования тех самых «устойчивых предпочтений».
Актуальность работы не вызывает сомнений, поскольку схожая работа ведется во всех крупных ИИ-центрах мира (Anthropic в США развивает проект Constitutional AI, DeepMind и Google рассматривают вопросы рефлексии LLM, OpenAI экспериментирует с функцией памяти в ChatGPT, развивая интепретируемость).
В ближайшие три года мы можем увидеть более надежных AI‑ассистентов. Это будет верно, если не произойдет резкий технологический прорыв, который полностью изменит способ работы ИИ. Такие прорывы за три года возможны. Новые модели станут стабильнее и предсказуемее в долгих диалогах. Они смогут запоминать стиль общения и поддерживать узнаваемый «характер». Это даст более точную персонализацию и улучшит опыт пользователей. Также реже будут появляться противоречивые или спорные ответы в разных сессиях.
Модели с устойчивыми внутренними предпочтениями найдут применение в широком спектре областей. Например, в образовании такие системы смогут выступать персональными наставниками, которые не только помнят образовательный путь каждого студента, но и адаптируются к нему, сохраняя при этом устойчивые принципы обучения. Здравоохранение получит психотерапевтических ботов с последовательным подходом, что особенно важно для долгосрочного сопровождения. Пациенты с хроническими заболеваниями смогут взаимодействовать с системами, которые поддерживают стабильную стратегию лечения и адаптации с учетом диагноза.
Креативные индустрии также не останутся в стороне - они обретут AI-соавторов с узнаваемым творческим почерком, а виртуальные персонажи в играх и метавселенных получат по-настоящему глубокую характеризацию, выходящую за рамки простых скриптов.
В социальной сфере такие модели станут партнерами для пожилых людей, а также основой для систем медиации конфликтов, действующих на базе устойчивых этических принципов. Важно подчеркнуть, что все эти применения потребуют тщательной этической экспертизы и продуманного регулирования, поскольку мы будем иметь дело с системами, имитирующими глубокие человеческие качества.