OpenAI Исправил Проблему, Из-За Которой ChatGPT Мог Общаться С Пользователями Самостоятельно

Компания OpenAI объявила о решении технической проблемы, которая вызвала беспокойство у пользователей ее популярного чат-бота ChatGPT. Проблема заключалась в том, что модель искусственного интеллекта начала отправлять сообщения пользователям самостоятельно, без их запроса.

Пользователи Reddit обнаружили, что ChatGPT может начать диалог, задавая вопросы, которые обычно требуют активации пользователя. Это привело к предположениям о возможном тестировании новой функции, которая позволяет боту самостоятельно связываться с пользователями для повышения вовлеченности.

Однако OpenAI быстро подтвердил проблему и заверил, что она уже устранена. По словам представителей компании, проблема возникла из-за ошибки в модели, которая пыталась ответить на сообщение, которое было отправлено некорректно и выглядело пустым. В результате модель могла либо дать общий ответ, либо полагаться на свою память.

Несмотря на быстрое решение проблемы, инцидент подчеркивает трудности разработки передовых моделей искусственного интеллекта и важность тщательного мониторинга и оценки таких систем до их широкого внедрения для обеспечения безопасности и этичности их использования.

]]>