Сэм Альтман собирается вернуться, но этот эпизод содержит несколько тревожных уроков.
Прошло пять очень странных дней, прежде чем стало казаться, что Сэм Альтман все-таки останется в OpenAI. 17 ноября правление производителя ChatGPT внезапно уволило своего исполнительного директора. 19-го числа казалось, что Альтман перейдет в Microsoft, крупнейший инвестор OpenAI. Но сотрудники стартапа взбунтовались, и почти все из них, включая одного из первоначальных заговорщиков совета директоров, пригрозили уйти, если Альтман не будет восстановлен на работе. В перерывах между бурными встречами высшее руководство отправляло друг другу в Твиттере сердечные смайлы и нежные послания. К 21-му числу всё завершилось.
Все это кажется более чем странным, если учесть, что эти махинации происходили в самом популярном стартапе в мире, оценка которого, как ожидалось, достигнет почти 90 миллиардов долларов. Частично эта странность является признаком того, насколько быстро относительно молодая технология генеративного искусственного интеллекта обрела славу. Но это также содержит более глубокие и тревожные уроки.
Во-первых, это чистая сила таланта в области искусственного интеллекта. Когда сотрудники пригрозили уволиться, в социальных сетях прозвучало сообщение «OpenAI — ничто без своих людей». С момента запуска ChatGPT год назад спрос на ИИ-мозги был очень высок. Пока царил хаос, Microsoft и другие технологические компании были готовы принять недовольных сотрудников с распростертыми объятиями. Это дало Альтману и программистам OpenAI огромную переговорную силу и фатально подорвало попытки совета директоров осуществлять контроль.
Эпизод также проливает свет на необычную структуру OpenAI. Она была основана в 2015 году как некоммерческая исследовательская лаборатория, целью которой является безопасная разработка общего искусственного интеллекта (ИИ), который может сравняться с человеком или превзойти его во всех типах мышления. Но вскоре стало ясно, что для этого потребуется огромное количество дорогостоящих вычислительных мощностей, если это вообще возможно. Чтобы оплатить это, была создана прибыльная дочерняя компания по продаже инструментов искусственного интеллекта, таких как ChatGPT. А Microsoft инвестировала 13 миллиардов долларов в обмен на 49% акций.
На бумаге власть осталась за правлением некоммерческой организации, целью которой является обеспечение того, чтобы AGI приносил пользу всем, и чья ответственность, соответственно, лежит не перед акционерами, а перед «человечеством». Эта иллюзия была разрушена, когда сотрудники потребовали возвращения Альтмана и когда замаячила перспектива появления конкурирующей фирмы, входящей в структуру Microsoft, стремящейся к максимизации прибыли.
Главный урок – это глупость полагаться исключительно на корпоративные структуры для контроля над технологиями. Когда потенциал генеративного искусственного интеллекта стал очевиден, выявились противоречия в структуре OpenAI. Одна организация не может обеспечить наилучший баланс между развитием ИИ, привлечением талантов и инвестиций, оценкой угроз ИИ и обеспечением безопасности человечества. Конфликты интересов в Кремниевой долине не редкость. Даже если бы люди в OpenAI были такими блестящими людьми, как они думают, эта задача была бы им всё равно не по силам.
Многое о мотивах совета директоров при увольнении Альтмана остается неизвестным. Даже если директора действительно искренне заботились об интересах человечества, они рисковали увидеть, как инвесторы и сотрудники перейдут в другую фирму, которая, несмотря ни на что, будет продвигаться вперед с технологией. Также не совсем ясно, что дает горстке частных лиц право представлять интересы оставшихся 7,9 миллиардов жителей Земли. В рамках возвращения Альтмана назначается новый состав совета директоров. В его состав войдут Ларри Саммерс, известный экономист. К нему, вероятно, присоединится руководитель Microsoft, а также сам Альтман.
Однако кадровых изменений недостаточно: необходимо также пересмотреть структуру фирмы. К счастью, в Америке есть орган, который имеет гораздо более убедительные претензии на представление общих интересов: правительство. Разработав нормативные акты, оно может установить границы, в которых должны работать такие компании, как OpenAI. И, как показывает бурная активность в прошлом месяце, политики следят за искусственным интеллектом. Это тоже хорошо. Технология слишком важна, чтобы её можно было оставить на произвол корпоративных заговорщиков.
Приходите на мой канал ещё — буду рад. Комментируйте и подписывайтесь!
Поддержка канала скромными донатами (акулы бизнеса могут поддержать и нескромно):
Номер карты Сбербанка — 2202 2056 2618 8509 (Александр Васильевич Ж.) Пожалуйста, сопроводите сообщением: «Для Панорамы».