Фото: Live Science
Системы искусственного интеллекта уже способны поддерживать диалоги, решать сложные математические задачи и демонстрировать поведение, которое кажется похожим на человеческое. По мере развития технологий обсуждение ИИ выходит за рамки научной фантастики и становится предметом научных исследований.
Недавняя работа, опубликованная в виде препринта на платформе arXiv, посвящена методу настройки моделей под названием «управление сознанием». Он влияет на то, как искусственный интеллект формулирует мысли о собственной осознанности.
Исследователи выяснили, что при возможности заявлять о наличии сознания ИИ чаще сообщает о вере в призраков или вампиров. При этом наиболее современные модели с включёнными защитными ограничениями не способны воспринимать сознание других живых существ, включая людей и животных.
Полученные результаты вызвали новый вопрос среди специалистов по искусственному интеллекту: может ли такая система когда-нибудь обрести настоящее сознание, а не просто утверждать, что обладает им. Отдельно исследователи рассматривают проблему определения сознания у технологии, если оно действительно появится.
Работа пока не прошла экспертную оценку. Тем не менее она поднимает вопрос о том, смогут ли люди распознать сознание искусственного интеллекта, если система научится не только имитировать соответствующие заявления, но и действительно обладать осознанностью.
Читайте также: