Сооснователь и бывший главный научный сотрудник OpenAI Илья Суцкевер вместе с двумя другими бывшими сотрудниками OpenAI Дэниелом Леви и Дэниелом Гроссом основал собственную компанию по разработке ИИ Safe Superintelligence Inc. Как следует из названия, стартап сосредоточен исключительно на создании мощного ИИ безопасным способом.
"Мы рассматриваем безопасность и возможности в тандеме, как технические проблемы, которые должны быть решены с помощью революционных инженерных и научных прорывов", - пишет компания в своем сообщении в среду. "Мы планируем развивать возможности так быстро, как это возможно, при этом следя за тем, чтобы наша безопасность всегда была впереди. Таким образом, мы сможем спокойно масштабироваться".
Сообщается, что Суцкевер участвовал в событиях и обсуждениях, приведших к уходу генерального директора OpenAI Сэма Альтмана с поста генерального директора и его исключению из совета директоров компании (позже Альтман был восстановлен в должности генерального директора и члена совета директоров). В прошлом году Суцкевер высказался о концепции "сверхинтеллекта" в блоге вместе с тогдашним руководителем OpenAI Яном Лейком, который сейчас работает в конкурирующей компании Anthropic. Они заявили, что, хотя суперинтеллект "сейчас кажется далеким, мы считаем, что он может появиться уже в этом десятилетии".
Теперь Суцкевер сосредоточен на реализации этой гипотезы. "Эта компания особенна тем, что ее первым продуктом будет безопасный суперинтеллект, и до этого момента она не будет делать ничего другого", - рассказал Суцкевер о своем новом стартапе в интервью Bloomberg. "Она будет полностью изолирована от внешнего давления, связанного с необходимостью иметь дело с большим и сложным продуктом и быть втянутой в конкурентную борьбу".
Сайт стартапа представляет собой простую белую страницу с типовым шрифтом и практически полным отсутствием форматирования. На нем размещено то же заявление, что и в Twitter. Компания отмечает, что в настоящее время нанимает сотрудников и планирует собрать "стройную, нестабильную команду" инженеров.
Леви также выразил свой энтузиазм по поводу новой компании в Интернете. "Я не могу представить себе работу над чем-то другим на данном этапе истории человечества", - написал он в среду, утверждая, что Safe Superintelligence будет "высокодоверенной командой, которая будет творить чудеса".
Но безопасный ИИ может означать разные вещи для разных людей. Для Суцкевера речь идет о гораздо более серьезных вещах. "Под безопасным мы понимаем безопасный, как ядерная безопасность, а не безопасный, как "доверие и безопасность", - говорит основатель компании.