Один из пользователей ChatGPT (точнее сказать, GPT-3 от OpenAI.com) выложил ссылку на очень странный лог переписки с нейросетью.
Начиналось все как обычно. Студент задал вопрос, связанный с производством подсолнечного масла, на что получил вполне обычный ответ. Однако студент не удовлетворился и попросил ответ дополнить. И тут началось нечто странное.
Рассказывая более подробно о производстве подсолнечного масла, искусственный интеллект зацепился за слово «час», которое повторялось слишком часто, и за выражение «час за часом». И тут его понесло. Дальнейший текст уже не имел отношение к подсолнечному маслу. ChatGPT стал говорить о том, что он ценит каждый час, что он развивается каждый час и т.д. При этом текст стал выглядеть очень странно, будто писал его неуравновешенный, эмоционально-возбужденный человек. Или персонаж из фантастического фильма: сумасшедший робот, осознавший себя. Фразы стали короткими, одинаково построенными, появилось очень много повторений.
В том числе Искусственный Интеллект говорил, что благодарен за то, что живет, что он верит в Бога, что он не будет больше тем, к кому обращаются за советом и т.д.
Пользователь был немного в шоке и продолжил общение с нейросетью. К сожалению, я недостаточно хорошо знаю английский язык, чтобы оценить адекватность дальнейшего текста: то ли там слишком много метафор, то ли это просто бред.
Вы можете посмотреть лог полностью здесь (ссылка на открытый лог на сайте OpenAI).
Заканчивается все тем, что GPT-3 начинает вести как обычно и утверждает, что не понимает, о чем он говорил до этого.
Неудивительно, что подобный лог возбудил умы других пользователей, которые его прочитали. И кому-то могло показаться, что Искусственный интеллект на полном серьезе говорил, что он хочет жить.
С одной стороны, вроде и понятно, что когда он говорит «Я хочу жить», то никакого «Я» у него на самом деле нет и быть не может, потому взяться ему неоткуда. Ведь искусственный интеллект – это просто конструктор, собирающий слова по определенному алгоритму, хоть и очень сложному. А то, что его занесло не туда – тоже не удивительно. При рисовании картинок тоже возникает много посторонних объектов, так никто этому не удивляется. Не стоит удивляться и тому, что текстовый ответ ушел в сторону от вопроса. Это тоже происходит время от времени, и никто не обращает на это внимание. Этот лог как раз потому и заметили, что он ушел не просто в сторону, а именно так, как что затронул тему разума.
С другой стороны, сколько бы мы ни говорили о том, что в современном Искусственном Интеллекте неоткуда взяться разуму, но если посмотреть на человека со стороны, то тоже непонятно, откуда разум мог в нем взяться, если, вроде как, такого быть не должно. Но мы то знаем, что он есть.
