Пентагон поссорился с ИИ-гигантом: компания не идет на поводу у военных

Пентагон угрожает отказаться от услуг компании Anthropic, которая является одним из ведущих разработчиков в сфере искусственного интеллекта. Причиной разногласий, по сведениям издания Axios, которое ссылается на собственные источники в ведомстве, стало нежелание ИИ-гиганта снимать ряд ограничений в использовании его разработок военными.

Автономные рои дронов под управлением ИИ могут стать неконтролируемыми

По словам неназванного источника, из всех компаний, с которыми Пентагон имеет дело в сфере искусственного интеллекта, Anthropic является самой «идейной» и опасается, что ее технологии будут использованы во вред человечеству. Гигант известен по своей нейросети Claude и Claude Code, а также по технологиям, использующим ИИ в том числе для торговли акциями и решения других сложных задач, где классические компьютерные системы не могут заменить человека.

В прошлом году Anthropic объявила о выигранном контракте с Пентагоном на 200 миллионов долларов. Тогда компания назвала это «новой главой в стремлении Anthropic поддерживать национальную безопасность США». Интересно, что теперь разработчик выступает против некоторых аспектов сотрудничества с оборонным ведомством.

По данным Axios, компанию волнуют два момента: она не хочет снимать жесткие ограничения по поводу полностью автономных видов оружия, а также допускать массовую внутреннюю слежку по умолчанию. В частности, Anthropic обеспокоена перспективами создания роев абсолютно автономных беспилотников, которые могут стать очень грозным оружием, способным дестабилизировать обстановку. Любое оружие, базирующееся на независимом от человека ИИ, потенциально не имеет ограничений относительно вреда, который может причинить людям.

Anthropic подозревает, что ИИ-технологии использовались при атаке США на Венесуэлу

А массовая повальная слежка может привести к тому, что власть будет использовать собранные и обработанные искусственным интеллектом данные для выявления и нейтрализации политических оппонентов.

Axios также сообщает, что Anthropic делала запрос компании Palantir, уточняя информацию о том, не были ли использованы ее технологии во время атаки США на Венесуэлу в начале января. Вероятно, Anthropic пыталась выяснить, не прибегли ли военные к ее ИИ-разработкам во время нападения.

Ранее мы рассказывали, что США могут свернуть обновленную систему GPS.