Компания начала исследование, которое должно показать, появляются ли у нейросети устойчивые предпочтения и точка зрения, не заимствованная из текстов людей.
«Яндекс» рассказал ТАСС о запуске эксперимента, который должен ответить на ключевой вопрос: может ли искусственный интеллект выработать собственные убеждения и осмысленную картину мира. Проект ведут совместно с нейробиологом, академиком РАН Константином Анохиным.
Первый этап уже прошёл. Учёные проверили, может ли базовая языковая модель показать стабильные предпочтения без дополнительного обучения. Этого не произошло. Теперь стартует основной этап: исследователи хотят стимулировать модель к размышлениям и рефлексии, чтобы она училась на собственных рассуждениях, а не только на текстах людей.
В этом режиме ИИ будет отвечать на вопросы о «личных» предпочтениях — например, определять любимый цвет и объяснять свой выбор. Команда предполагает, что такая работа может привести к появлению внутренней логики и структуры, которая напоминает человеческие убеждения.
Директор по развитию технологий ИИ «Яндекса» Александр Крайнов пояснил замысел так: человек постоянно тренирует свою нейронную систему в процессе мышления, а ИИ сегодня учится только на чужих мыслях. По его словам, обучение на собственных рассуждениях может привести к тому, что у модели появится настоящая внутренняя точка зрения.
Компания считает, что устойчивые предпочтения могут стать признаком формирования внутренней картины мира — не имитации, а структуры, похожей на личность. Эксперимент должен помочь лучше понять принципы человеческого мышления и расширить границы возможностей ИИ за пределы статистического предсказания.
Читать далее:
Вселенная внутри черной дыры: наблюдения «Уэбба» подтверждают странную гипотезу
Испытания ракеты Starship Илона Маска вновь закончились взрывом в небе
Сразу четыре похожих на Землю планеты нашли у ближайшей одиночной звезды
Обложка: freepik