Власти США потребовали закрыть доступ к новейшим моделям Claude Mythos 5 и Claude Fable 5 для всех пользователей, не являющихся американскими гражданами. Официальным поводом стали соображения национальной безопасности, однако эксперты связывают это решение с затяжным конфликтом компании и Пентагона по вопросу использования ИИ в военных целях.
Ограничения были введены 12 июня — спустя всего три дня после рыночного релиза моделей. Решение последовало за экстренным отчётом Amazon, крупного инвестора Anthropic. Хотя детали документа не разглашаются, представители Anthropic косвенно подтвердили, что некоторые функции Fable 5 могут быть адаптированы для проведения кибератак. Из-за отсутствия инструментов для оперативной проверки гражданства пользователей, компания была вынуждена пойти на радикальный шаг и заблокировать новые продукты практически повсеместно.
Основатели Anthropic, покинувшие OpenAI несколько лет назад, сделали ставку на развитие «безопасного искусственного интеллекта», зафиксировав это в манифесте гендиректора Дарио Амодея «Машины любящей благодати». Статус компании «общественного блага» (Public benefit corporation) стал ключевым отличием Anthropic на рынке.
В компании отмечали, что Claude Mythos 5 обладает исключительной мощностью и способен выявлять уязвимости в программном коде эффективнее человека. Подобные заявления стали привычным инструментом продвижения для ведущих игроков рынка, таких как OpenAI и Google, однако в текущих условиях избыточная функциональность продукта была интерпретирована регулятором как прямая угроза.
Подпишитесь на Telegram "АН": больше эксклюзивов и оперативной информации!