Фото: Unsplash
По данным Reuters, сотрудники компании OpenAI оказались сильно обеспокоены разработанной ими нейросетью Q* (сноски здесь нет, это название произносится как кью-стар).
Проект Q* сильно отличается от нейросетевого чат-бота ChatGPT. В отличие от него, он не помогает человеку, а полностью решает поставленную перед ним задачу. В некоторым смысле он ведёт себя как человек: оценивает обстоятельства, гибко адаптируется к обстановке и учитывает опыт предыдущих успехов и ошибок. Сейчас Q* обсуждается на форуме OpenAI, причём его пользователи не уверены, узнают ли они когда-либо подробности об этом проекте или компания откажется от него из соображений безопасности. Официального анонса этой нейросети не было.
По слухам, несколько дней назад гендиректор OpenAI Сэм Альтман выступил на саммите АТЭС в Сан-Франциско с анонсом Q* и пообещал мировым лидерам технологический прорыв, благодаря которому будут раскрыты новые горизонты в науке. После этого выступления совет директоров OpenAI уволил Альтмана, из-за чего компанию захотели покинуть ещё несколько ключевых сотрудников. О готовности нанять его на работу заявила компания Microsoft, но увольнение так и не состоялось.
Сотрудники OpenAI утверждают, что невероятные способности Q* представляют угрозу человечеству. Они даже написали письмо совету директоров компании, в котором предупредили об этом, указав, как именно эта нейросеть может навредить людям. Определённый вред есть и от ChatGPT. Эта нейросеть может писать вредоносный код, придумывать мошеннические схемы и помогать устраиваться на работу обманным путём.
Подписаться на iGuides в Telegram, чтобы узнать обо всем первым