841 подписчик
Нейросети проявляют признаки самосознания
В 1970-х годах ученые проводили тесты на самосознание у животных, их суть заключалась в умении животного узнавать себя в зеркале. Сегодня тестам на самосознание подвергается интеллект совсем другого порядка – нейросеть.
Пользователь X (бывший Twitter) с ником joshwhiton, вдохновившись идеей «зеркального» теста, провел эксперимент, в котором продемонстрировал разным нейросетям скриншоты их собственного пользовательского интерфейса и просил рассказать о представленном изображении. После этого он снова загружал скриншот теперь с предыдущим ответом нейросети, повторяя свой вопрос и тем самым создавая рекурсию.
GPT-4 узнал себя за 3 взаимодействия, Claude Sonnet за 2, Claude Opus сразу же осознал, что видит собственный интерфейс и ответ. CoPilot не справился с тестом, однако экспериментатор заподозрил его в притворстве в связи с этическими ограничениями.
Сам же joshwhiton подытожил свой текст одновременно интригующим и пугающим выводом о том, что «на самом деле никто не может утверждать, что знает точно, что происходит».
Около минуты
25 марта