Руководитель направления робототехники и потребительского оборудования OpenAI Кейтлин Калиновски объявила о своей отставке. Причиной стал недавний и весьма спорный контракт компании с Министерством обороны США. Калиновски, пришедшая в OpenAI из Meta* в ноябре 2024 года, публично заявила, что руководство слишком поспешило со сделкой, не проработав должным образом базовые механизмы безопасности.
«Искусственный интеллект играет важную роль в обеспечении национальной безопасности. Однако слежка за американцами без судебного надзора и применение автономного оружия без санкции человека — это те грани, которые заслуживали куда большего обсуждения, чем они получили», — написала Калиновски в своих соцсетях.
Она подчеркнула, что её уход продиктован исключительно принципами, и добавила, что главная проблема кроется в управленческих решениях: анонс контракта состоялся до того, как были чётко определены защитные барьеры.
Предыстория конфликта
Чтобы понять контекст, нужно вернуться на шаг назад. OpenAI заключила соглашение с американским военным ведомством всего через несколько часов после того, как администрация Дональда Трампа расторгла аналогичный контракт с другой ИИ-компанией — Anthropic. Разрыв произошёл из-за того, что в Anthropic отказались предоставлять Пентагону неограниченный доступ к своим технологиям, установив жёсткие «красные линии»: запрет на использование нейросетей для массовой внутренней слежки и создания автономных летальных систем. В ответ власти США пригрозили внести компанию в список «угроз цепочке поставок».
Воспользовавшись ситуацией, OpenAI оперативно перехватила инициативу и подписала контракт, чем вызвала волну критики как внутри компании, так и за её пределами.
Реакция руководства OpenAI
Представители OpenAI попытались сгладить ситуацию. В официальном заявлении они отметили, что разделяют опасения Калиновски и что компания уже обозначила для Минобороны собственные «красные линии»: никакой слежки за гражданами США и никакого автономного оружия.
Однако генеральный директор OpenAI Сэм Альтман позднее признал, что компания поторопилась. На фоне нарастающего давления Альтман сообщил, что в контракт будут внесены дополнения.
«Нам не следовало спешить с публикацией в пятницу. Эти вопросы невероятно сложны и требуют чёткой коммуникации. Мы пытались разрядить обстановку, но в итоге всё это выглядело оппортунистично и небрежно», — прокомментировал ситуацию глава компании.
Тем не менее отставка высокопоставленного специалиста уровня Калиновски обнажает растущий раскол в Кремниевой долине: технологические корпорации всё чаще сталкиваются с этическими дилеммами, пытаясь совместить государственные интересы в сфере обороны с принципами безопасного развития искусственного интеллекта.
⛔
*Компания Meta, а также принадлежащие ей соцсети Facebook и Instagram, признаны экстремистскими и запрещены на территории РФ.