Новая технология якобы могла угрожать человечеству.
Как сообщили источники в OpenAI агентству Reuters, перед увольнением Сэма Альтмана из компании сотрудники выразили обеспокоенность прорывным исследованием в сфере искусственного интеллекта, которое, возможно, представляет угрозу для человечества.
Несколько сотрудников направили письмо совету директоров, в котором обсуждались детали нового проекта Q*. По словам источника, это направление искусственного интеллекта отличается от GPT и имеет способность решать задачи, оценивать ситуации, извлекать уроки из ошибок, аналогично человеку. На данный момент Q* оперирует преимущественно с простыми школьными задачами, но уже вызывает беспокойство у сотрудников из-за своей потенциальной мощности и возможного воздействия на общество.
В отличие от систем, основанных на модели GPT, вроде ChatGPT, которые хорошо выполняют математические задачи, но не всегда правильно интерпретируют информацию из-за своего статистического подхода, Q* ориентирован на точные ответы, позволяющие лучше понимать содержание задачи.
Эта информация могла стать одним из факторов в увольнении Альтмана, о чем упоминали ранее СМИ. Руководство компании выражало тревогу по поводу скорого развития проектов без должного внимания к их безопасности. Более того, на саммите АТЭС в Сан-Франциско Альтман заявил о каком-то важном прорыве, который должен раскрыть новые перспективы в науке.
Официальных подтверждений от OpenAI о существовании проекта Q* пока не поступало, и детали этой инициативы остаются неизвестными.