Руководитель аппаратного направления компании OpenAI Кейтлин Калиновски покинула свой пост из-за разногласий вокруг нового соглашения с Министерством обороны США. Об этом сообщает агентство Reuters.
Топ-менеджер объяснила решение об отставке серьезными опасениями по поводу корпоративного управления. По словам Кейтлин Калиновски, руководство поспешило заключить контракт с Пентагоном без проработки достаточных защитных механизмов. Специалист уверена в необходимости более тщательного обсуждения рисков массовой слежки за гражданами без судебного контроля и создания полностью автономного летального оружия. В самой корпорации подтвердили факт увольнения и назвали сотрудничество с военными ответственным шагом в сфере национальной безопасности.
Февральское соглашение с властями предусматривает развертывание языковых моделей исключительно в засекреченных облачных сетях американского оборонного ведомства. При этом разработчики сохраняют контроль над многоуровневой системой безопасности с привлечением специалистов со специальными допусками. На фоне внутренней критики второго марта технологическая корпорация официально обновила этические правила и прямо запретила использовать свои алгоритмы для слежки за американцами наряду с управлением боевыми системами без участия человека. Представители компании подчеркивают полное соответствие всех условий контракта законодательству США.
Кейтлин Калиновски пришла в OpenAI в ноябре 2024 года. Новая оборонная сделка с разработчиком ChatGPT состоялась после отказа от аналогичного контракта со стороны стартапа Anthropic, который Пентагон внес в черный список. Исторически создатели генеративных сетей жестко ограничивали военное применение своих технологий. Нынешний договор стал первым крупным шагом индустрии навстречу армии после нескольких лет внутренних дискуссий. Все условия сотрудничества находятся в открытом доступе для изучения другими лабораториями, а массового оттока кадров из OpenAI пока не наблюдается.
Ранее сотрудники Google и OpenAI выступили против боевого ИИ и слежки.