17 ноября, казалось бы, из ниоткуда, совет директоров уволил Сэма Альтмана, соучредителя и исполнительного директора стартапа. Собственный босс Смита, Сатья Наделла, возглавляющий Microsoft, узнал об увольнении Альтмана всего за несколько минут до самого Альтмана. Не говоря уже о том, что Microsoft является крупнейшим акционером Openai, вложив в стартап сумму более 10 миллиардов долларов. К 20 ноября подавляющее большинство сотрудников Openai, насчитывающих 700 человек, подписали открытое письмо, в котором остальным членам совета директоров был поставлен ультиматум: уйти в отставку, или подписавшие лица последуют за Альтманом в Microsoft, куда Наделла пригласил его возглавить новое подразделение: домашнюю лабораторию искусственного интеллекта.
Происходящее привлекло внимание к необычной структуре Openai. Что именно ей поручено делать и как могли уволить руководителя самого крутого стартапа в области искусственного интеллекта, не имея права голоса ни у одного из инвесторов? Фирма была основана как некоммерческая организация в 2015 году Альтманом и группой инвесторов и предпринимателей Кремниевой долины, включая Илона Маска. Группа коллективно пообещала выделить 1 миллиард долларов на достижение цели Openai по созданию общего искусственного интеллекта (ИИ), поскольку эксперты в области ИИ называют программу, которая превосходит людей в большинстве интеллектуальных задач. Через несколько лет Openai поняла, что для достижения своей цели ей нужны деньги для оплаты дорогостоящих вычислительных мощностей и первоклассных специалистов – не в последнюю очередь потому, что, по ее утверждению, материализовалось всего около 130 миллионов долларов из первоначального обещания в 1 миллиард долларов. Поэтому в 2019 году была создана коммерческая дочерняя компания.
Прибыль инвесторов в этом предприятии была ограничена суммой, в 100 раз превышающей их инвестиции (хотя благодаря изменению правил этот предел будет увеличиваться на 20% в год, начиная с 2025 года). Любая прибыль, превышающая верхний предел, поступает в материнскую некоммерческую организацию. Компания также оставляет за собой право реинвестировать всю прибыль обратно в фирму до тех пор, пока не будет достигнута ее цель по созданию agi. И как только он будет достигнут, полученный в результате agi не будет приносить финансовую отдачу; Например, условия лицензирования Openai и Microsoft охватывают только технологии «до agi». Решение о том, будет ли достигнута agi и когда это будет достигнуто, остается за советом директоров Openai. В отличие от большинства стартапов, да и большинства компаний, инвесторы не получают места. Вместо того, чтобы представлять финансовых спонсоров Openai, устав организации поручает директорам представлять интересы «человечности».
До событий первой половины ноября представителями человечества были трое соучредителей Openai (Альтман, Грег Брокман и Илья Суцкевер) и три независимых члена (Адам Д'Анджело, соучредитель Quora; Таша МакКоли, технологический предприниматель; и Хелен Тонер из Центра безопасности и новых технологий, еще одной некоммерческой организации). 17 ноября четверо из них — Суцкевер и трое независимых кандидатов — утратили доверие к Альтману. Их причины остаются неясными, но, возможно, они связаны с тем, что совет директоров, похоже, рассматривал как стремление к созданию новых продуктов в сочетании с недостаточной заботой о безопасности ИИ. Устав фирмы от января 2016 года наделяет членов совета директоров широкими полномочиями, включая право добавлять или удалять членов совета директоров, если с этим согласны большинство.
В самых ранних налоговых декларациях за тот же год фигурируют три директора: Альтман, Маск и Крис Кларк, сотрудник Openai. Неясно, как они были выбраны, но благодаря уставу они отныне могли назначать других. К 2017 году к первоначальному трио присоединились г-н Брокман и Холден Карновски, исполнительный директор благотворительной организации Open Philanthropy. Два года спустя в совете директоров было восемь членов, хотя к тому времени Маск ушел в отставку из-за разногласий с Альтманом по поводу направления Openai. В прошлом году их число сократилось до шести. Во всем этом оно было ответственно только перед самим собой.
Эта странная структура была разработана для того, чтобы Openai могла противостоять внешнему давлению со стороны инвесторов, которые могли бы предпочесть быструю прибыль сейчас, а не помощь человечеству в будущем. Вместо этого дилетантское изгнание Альтмана советом директоров усилило давление со стороны инвесторов и сотрудников Openai. По крайней мере, эта крошечная часть человечества явно чувствует себя искаженной.