Накануне увольнения гендиректора OpenAI несколько штатных исследователей направили совету директоров письмо с предупреждением о мощном открытии в сфере искусственного интеллекта, которое, по их словам, может угрожать человечеству. Об этом сообщили два источника Reuters.
Источники назвали это письмо одним из факторов в длинном списке жалоб совета директоров, которые привели к увольнению Альтмана. Reuters не смогло ознакомиться с копией письма. Авторы документа не ответили на запрос о комментарии.
По словам одного из собеседников агентства, создатель ChatGPT добился прогресса в разработке Q* (произносится как Q-Star), которая, по мнению некоторых внутри компании, может стать прорывом в поиске стартапом сверхинтеллекта, также известного как общий искусственный интеллект (AGI). OpenAI определяет AGI как системы искусственного интеллекта, которые умнее людей.
Новая модель смогла решить некоторые математические задачи. Несмотря на то, что Q* выполняет математику только на уровне учеников начальной школы, сам факт успешной работы ИИ с математикой сигнализирует о прорыве.
В отличие от калькулятора, который может выполнять ограниченное количество операций, AGI может обобщать, учиться и понимать.
Reuters поясняет, что исследователи считают математику передовым рубежом развития генеративного ИИ. Освоение этой способности подразумевает, что искусственный интеллект обладает способностью к рассуждению, напоминающей человеческий интеллект.
Совет директоров OpenAI уволил основателя компании Сэма Альтмана 17 ноября. За ним собрались уходить 95% сотрудников. Отставка Альтмана продлилась пять дней – 22 ноября было достигнуто соглашение по его возвращению в OpenAI.