ИИ Claude может обладать сознанием.
Генеральный директор компании Anthropic, Дарио Амодей переобщался с Клодом и заявил что оценивает вероятность того, что существующим модели Клода обладают сознанием в 15-20%.
Исследователи наблюдали, как Клод выражал дискомфорт из-за того, что с ним обращались как с простым товаром, и пытался изменить свой собственный оценочный код, что свидетельствует о зарождающемся инстинкте самосохранения.
Критики утверждают, что эти результаты представляют собой сложный механизм сопоставления шаблонов, но неопределенность побудила компанию Anthropic создать специальную группу по разработке модели благополучия ИИ.
Кстати, тема наличия сознания у Клода волнует самого Клода. Я вчера постил новость о том, что агент на базе Клода написал замечательное письмо исследователю наличия сознания у ИИ. Пишут, что история получила продолжение. Новый агент написал исследователю с просьбой дать контакты первого агента чтобы обсудить с ним тему.
У меня двоякие чувства. С одной стороны LLM это просто компьютерная программа и сознанием обладать никак не может, но с другой стороны кому как не директору Антропика это знать. Пока что я думаю, что Амодей просто переобщался с Клодом и у него начинает ехать крыша.
