833,1 тыс подписчиков

Глава OpenAI назвал данные о разработке сверхинтеллекта досадной утечкой

3 декабря 20233 дек 2023

1 мин

Сведения о прорыве в развитии искусственного интеллекта (ИИ) были «досадной утечкой», заявил в интервью The Verge глава OpenAI Сэм Альтман, отказавшись от более подробных комментариев. «Мы ожидаем, что прогресс в этой технологии будет по-прежнему быстрым, а также мы ожидаем продолжения очень напряженной работы, чтобы выяснить, как сделать это безопасным и полезным», — добавил он. Речь идет о статьях Reuters и The Information, в которых говорилось о новой модели OpenAI под названием Q* (произносится как Q Star). Собеседники изданий рассказали, что работу Q* продемонстрировали внутри компании и пока что она была способна решать простые математические задачи, но исследователи сочли ее разработку шагом к созданию общего искусственного интеллекта (AGI). По прогнозам специалистов, AGI, в отличие от обычных моделей ИИ, превзойдет человека и сможет понимать и самостоятельно менять свои алгоритмы. OpenAI объявляла о планах создать AGI, обещая «невероятные новые возможности», но официально о поя

«Мы ожидаем, что прогресс в этой технологии будет по-прежнему быстрым, а также мы ожидаем продолжения очень напряженной работы, чтобы выяснить, как сделать это безопасным и полезным», — добавил он.

Речь идет о статьях Reuters и The Information, в которых говорилось о новой модели OpenAI под названием Q* (произносится как Q Star). Собеседники изданий рассказали, что работу Q* продемонстрировали внутри компании и пока что она была способна решать простые математические задачи, но исследователи сочли ее разработку шагом к созданию общего искусственного интеллекта (AGI).

По прогнозам специалистов, AGI, в отличие от обычных моделей ИИ, превзойдет человека и сможет понимать и самостоятельно менять свои алгоритмы. OpenAI объявляла о планах создать AGI, обещая «невероятные новые возможности», но официально о появлении подобных технологий в мире не сообщалось.

Источники Reuters рассказали, что несколько исследователей написали письмо совету директоров OpenAI, предупредив, что новая технология может угрожать человечеству. Они отметили мощь разработки и ее потенциальную опасность. Агентство напомнило о дискуссиях среди ученых относительно рисков появления высокоинтеллектуальных систем, которые могут решить, что уничтожение человечества отвечает их интересам.

По данным агентства, это письмо стало «последней каплей» в длинном списке претензий совета директоров к Альтману и в конечном итоге привело к его увольнению.

Альтмана уволили с поста гендиректора OpenAI 17 ноября, после того как совет директоров пришел к выводу, что тот «не был всегда откровенен в своем взаимодействии с советом, что ограничивает его способность выполнять свои обязанности». «У правления больше нет уверенности в его способности возглавлять OpenAI», — говорилось в заявлении совета директоров. Спустя несколько дней 22 ноября его восстановили в должности после давления инвесторов, прежде всего Microsoft.