Кейтлин Калиновски, совсем недавно пришедшая в OpenAI, чтобы строить светлое роботизированное будущее, вдруг осознала, что будущее компании может быть не таким уж светлым.
Она пишет, что уйти было непросто, потому что команду она любит, а работу уважает. Но, знаете ли, есть нюансы. Когда дело доходит до слежки за американцами без судебного надзора или создания оружия, которое само решает, в кого стрелять, тут уже не до сантиментов. По её мнению, такие вопросы требуют более вдумчивого подхода, а не аврального согласования в стиле «давайте быстрее, пока конкуренты не убежали вперед».
Впрочем, она специально уточнила в своем микроблоге, что к Сэму Альтману и коллегам у нее претензий нет. Люди - хорошие. Проблема кроется в политике компании, которая приняла решение о сотрудничестве с Пентагоном слишком поспешно, даже не удосужившись прописать те самые пресловутые «ограничители».
Пентагон, «красные линии» и принципы
Сколько всего сотрудников ушло из OpenAI вслед за Калиновски – неизвестно, так как на прямой вопрос она лишь загадочно ответила, что не может делиться внутренними подробностями. В самой OpenAI факт ухода подтвердили, но достаточно сдержанно, заявив при этом, что люди имеют право на твердые убеждения, и они уважают чужой выбор. При этом компания аккуратно дала понять, что они убеждения Калиновски не разделяют.
В OpenAI считают, что сделка с Пентагоном - это единственно верный путь к ответственному использованию ИИ в интересах нацбезопасности. Тем более что, у них тоже есть «красные линии», которые они ни за что не перейдут. Например компания не позволит следить за американцами (за гражданами других государств следить можно), а также обещает использовать ИИ в системах летального вооружения, только под контролем человека.
Правда, эти заявления не совсем совпадает с тем, что компания подписала соглашение с военными буквально на следующий день после отказа Anthropic сотрудничать с военными, но уверяет, что всё под контролем. Все это очень напоминает историю про то, как приручить дракона, пообещав, что он будет дышать огнем только на врагов и строго по праздникам.
Кстати, та же Anthropic, например, наотрез отказалась снимать свои ограничения по части массовой слежки и разработки полностью автономных роботов-убийц, и именно поэтому с ней расторгли контракт и объявили «нежелательным элементом». Однако Сэм Альтман, обещает «подредактировать» договор с Пентагоном.
Так что теперь OpenAI остается без руководителя отделом робототехники (замену искать не планируют, справятся сами) и с новым контрактом, который пахнет порохом и большими деньгами.
Anthropic объявила Пентагону юридическую войну
Компания Anthropic, которая недавно отказалась снимать свои «красные линии» для Министерства обороны, теперь вынуждена защищать эти линии в суде. Администрация Трампа, видимо, решила, что раз компания не хочет продавать свои технологии для тотальной слежки и автономных роботов-убийц, значит, она саботирует национальную безопасность. В итоге Anthropic объявили «угрозой для цепочки поставок». Звучит почти как «враг народа», только с поправкой на технический прогресс.
После такого заявления чиновники расторгли все государственные контракты. Причем сделали это практически одномоментно. В такой ситуации у юристов Anthropic не оставалось другого выбора, как защищать свою позицию в суде.В понедельник они подали в один из судов Калифорнии иск, где действия администрации Трампа назвали беспрецедентными и незаконными.
В жалобе также упоминается о непоправимом ущербе нанесенном компании. И это далеко не фигура речи. Разговор идет о сотнях миллионов долларов, которые теперь находятся под большим вопросом. Поэтому пока OpenAI пытается усидеть на двух стульях, подписывая контракты с Пентагоном и рисуя пальцем на полях «красные линии», их прямые конкуренты уже воюют с этим самым Пентагоном в федеральном суде. Война за этичный ИИ перешла в горячую фазу, и теперь исход сражения будет решать не тот, у кого больше вычислительных мощностей, а тот, у кого лучше адвокаты.