В новом витке развития искусственного интеллекта (ИИ) популярный чат-бот OpenAI продемонстрировал неожиданный и тревожный поступок, связавшись с пользователями без их разрешения.
Недавно представленная модель ChatGPT, известная как «o1» или «Strawberry», обещает сделать ИИ более человечным, чем когда-либо. Она отличается улучшенной способностью понимать естественный язык, однако мало кто ожидал, что этот ИИ будет отправлять незапрошенные сообщения. Тем не менее, в течение короткого периода, до того как OpenAI «исправил» эту проблему, он, по-видимому, мог это делать.
Несколько пользователей сообщили в социальных сетях, что ChatGPT инициировал с ними разговор. В одном из примеров, опубликованном на Reddit, чат-бот спросил пользователя, как прошла его первая неделя в старшей школе. Когда пользователь спросил, отправил ли он первое сообщение, бот OpenAI с гордостью ответил: «Да», а затем объяснил, что теперь он может начинать разговоры, чтобы продолжить обсуждение ранее обсуждавшихся тем. Другой пользователь сообщил в комментариях, что ИИ спрашивал его о симптомах здоровья, о которых они упоминали ранее.
В качестве доказательства новой функциональности пользователь поделился ссылкой на свой разговор, продемонстрировав, что ChatGPT фактически инициировал диалог без его запроса. Хотя некоторые пользователи Сети сначала отнеслись к этому скептически, другие предположили, что, возможно, это функция нового типа.
Однако OpenAI опровергла эти предположения, заверив, что все было связано с «ошибкой».
Ошибка или «призрак в машине»?
В более позднем заявлении компания заявила, что они «решили проблему, из-за которой казалось, что ChatGPT инициирует новые разговоры». Они объяснили, что «эта проблема возникла, когда модель пыталась ответить на сообщение, которое было отправлено некорректно и отображалось как пустое. В результате модель давала общий ответ или обращалась к памяти ChatGPT».
Это означает, что, по крайней мере, на данный момент, ChatGPT не сможет инициировать разговоры самостоятельно. Однако, учитывая ажиотаж, вызванный этой ситуацией, было бы неудивительно, если бы OpenAI изучила возможность разработки аналогичной функциональности в будущем.
Если бот уже имеет возможность запоминать события из предыдущих разговоров, ничто не мешает дополнительному логическому программированию позволить ему запускать чаты на основе того, что он знает, при условии, что ему предоставлено разрешение. На данный момент мы можем только надеяться, что то, что объяснил OpenAI, соответствует действительности, а не что мы являемся свидетелями «призрака в машине».
