Перед отстранением генерального директора OpenAI Сэма Альтмана, несколько внутренних исследователей направили письмо совету директоров компании, предупреждая о разработке мощного искусственного интеллекта, который, по их мнению, может представлять угрозу для человечества. Информацию передали Reuters, ссылаясь на двух знакомых с ситуацией источника, передает Bizmedia.kz.
Письмо и алгоритм искусственного интеллекта, о котором ранее не сообщалось, стали ключевым моментом перед отстранением Альтмана от должности. Перед тем как Альтман триумфально вернулся в конце вторника, более 700 сотрудников угрожали уволиться и присоединиться к Microsoft (MSFT.O) в знак солидарности со своим уволенным руководителем.
Письмо, о котором говорят источники, стало одной из причин, перечисленных в длинном списке жалоб совета директоров, приведших к увольнению Альтмана. Reuters не удалось ознакомиться с копией письма, и исследователи, его написавшие, пока не ответили на просьбу о комментарии.
Один из источников сообщил, что Мира Мурати, многолетний руководитель OpenAI, в среду упомянула перед сотрудниками о проекте под названием Q*, говоря, что письмо было направлено совету директоров до событий, произошедших в эти выходные.
После публикации статьи представитель OpenAI сообщил, что Мурати рассказала сотрудникам о том, что планируется сообщить СМИ, но не стал комментировать точность сообщения.
Один из сотрудников компании сообщил Reuters, что создатель ChatGPT сделал прогресс в разработке Q* (произносится как Q-Star), который, по мнению некоторых сотрудников, может стать прорывом в поисках сверхразума, также известного как искусственный интеллект общего назначения (ИИО). OpenAI определяет AGI как системы искусственного интеллекта, превосходящие человеческие способности.
Исследователь, выступивший на условиях анонимности, так как не имел права выступать от имени компании, сказал, что благодаря огромным вычислительным возможностям новая модель смогла решить некоторые математические задачи. Хотя эти задачи могут решаться даже учениками начальной школы, результаты тестов внушают исследователям оптимизм относительно будущих достижений Q*.
Агентство Reuters не смогло независимо проверить заявленные возможности Q* исследователями.
СУПЕРИНТЕЛЛЕКТ
Математика считается одним из ключевых компонентов развития генеративного искусственного интеллекта. На данный момент, генеративный ИИ успешно справляется с написанием текстов и переводом языка, основываясь на статистических предсказаниях следующего слова. Однако, вопросы, на которые ИИ отвечает, могут сильно различаться.
Однако, для достижения математической компетентности, где существует только один верный ответ, необходимо, чтобы ИИ обладал более широкими рассуждениями, подобными человеческому интеллекту. Исследователи считают, что это может быть использовано, например, для новых научных исследований.
В отличие от калькулятора, который может решать ограниченное число операций, ИИ способен обобщать, учиться и понимать.
Исследователи обратили внимание на возможности искусственного интеллекта и его потенциальную опасность в своем письме в совет исследователей, не уточнив, какие именно опасения были высказаны. Долгое время в научных кругах велась дискуссия о том, насколько опасными могут быть сверхразумные машины, и могут ли они принять решение уничтожить человечество в своих интересах.
На фоне этих обсуждений Максим Альтман приступил к работе над превращением ChatGPT в одно из самых быстро развивающихся программных приложений в истории. Для достижения этой цели компания получила инвестиции и вычислительные ресурсы от Microsoft, необходимые для приближения к сверхразуму или AGI.
На прошлой неделе, во время выступления на международной конференции в Сан-Франциско, Максим Альтман не только объявил о запуске новых инструментов, но и заявил, что AGI уже не за горами.
«За всю историю OpenAI мне уже четыре раза (последний раз — буквально за последние пару недель) доводилось присутствовать в комнате, когда мы, будто раздвигали завесу неведения и расширяли границы открытий. И возможность делать это — это профессиональная честь всей моей жизни», — сказал он на саммите Азиатско-Тихоокеанского экономического сотрудничества.
Однако, через день, совет директоров принял решение об увольнении Максима Альтмана.