Как стало известно прессе, перед увольнением Сэма Альтмана из компании Open AI штатные сотрудники рассказали о прорыве в области искусственного интеллекта, который может представлять угрозу для человечества.
Как сообщает Reuters со ссылкой на источник в компании, несколько сотрудников написали письмо, адресованное совету директоров, в котором рассказали о достижении в области ИИ.
По информации источника, проект Q* кардинальным образом отличается от GPT: системы Q* способны самостоятельно решать задачи, оценивать обстановку, обучаться и использовать опыт сделанных ошибок, подобно человеку. Несмотря на тот факт, что Q* на данном этапе решает только простые школьные задачи, разработчики уже сейчас отмечают его невероятную мощь и говорят о потенциальной опасности для человечества.
Системы на базе модели GPT, вроде известного бота ChatGPT, успешно справляются с решением математических задач, но они часто допускают ошибки в ответах. GPT основывается на статистических закономерностях, а не на понимании. Системы этой модели постепенно научились искать информацию, но не могут оценивать ее содержание. Поэтому ChatGPT может написать неплохой с точки зрения языка, но бессмысленный текст или допустить ошибку в математической задаче для дошкольников. Что касается Q*, он ориентирован на точный ответ.
Не исключено, что это письмо стало последним аргументом для увольнения Сэма Альтмана. Ранее в СМИ появилась информация о том, что к главе Open AI накопились многочисленные вопросы. В частности, претензии были связаны со слишком быстрым развитием продуктов ИИ без учета безопасности. Не исключено, что именно о Q* Альтман говорил на недавнем саммите АТЭС в Сан-Франциско, пообещав, что вскоре наступит некий прорыв, открывающий новые горизонты в науке.
Официально OpenAI не подтверждала существование этого проекта.