Компания «Яндекс» приступила к уникальному эксперименту по изучению возможности проявления сознания у искусственного интеллекта.
Исследование проводится совместно с известным нейробиологом, академиком РАН Константином Анохиным и направлено на выявление способности нейросети формировать устойчивые предпочтения и собственную точку зрения, сообщает «ТАСС».
На первом этапе ученые установили, что базовая языковая модель не способна формировать стабильные предпочтения без дополнительного обучения. В основном этапе эксперимента модель будут стимулировать к рассуждениям и рефлексии, обучая ее на собственных размышлениях. Нейросеть попытается формировать внутренние убеждения, аналогичные человеческим, например, аргументировано отвечая на вопрос о любимом цвете.
Как пояснил директор по развитию технологий искусственного интеллекта «Яндекса» Александр Крайнов, ключевое отличие нового подхода заключается в обучении нейросети на ее собственных рассуждениях, а не только на чужих текстах.
Есть надежда, что если мы начнем обучать нейронную сеть на ее собственных рассуждениях, то получится сделать модель, у которой появится действительно своя точка зрения, — отметил он.
Эксперимент призван помочь глубже понять природу человеческого мышления и возможности ИИ выходить за рамки статистического предсказания. Компания рассчитывает, что новые подходы позволят решить задачи, неподвластные текущим моделям, и приблизят технологию к формированию осознанного мышления. Появление устойчивых предпочтений у модели может свидетельствовать о формировании внутренней картины мира, напоминающей личность человека.
Ранее директор карельского венчурного фонда рассказал о том, что у ИИ нет воли.