Оружие или зависть? Правительство США заставило Anthropic отключить доступ к новым ИИ-моделям
Приятно пользоваться нейросетью, которая помогает написать код или деловое письмо. Но долго ли эта возможность будет доступна бесплатно или за относительно небольшие деньги? Когда технология становится стратегической, доступ к ней пропадает. Например, начало разработки ядерной бомбы в СССР связывают с письмом ополченца Георгия Флёрова Иосифу Сталину – он отметил, что в научных журналах пропали работы по изучению распада атома, а значит, использование радиоактивного излучения перешло из научной стадии в промышленную. Флёров был отозван с фронта и стал одним из отцов советской ядерной программы. Не по той же ли схеме правительство США приказало Anthropic убрать доступ к двум новым ИИ-моделям – Fable 5 и Mythos 5?
9 июня Anthropic выпустила новые самые мощные ИИ-модели Fable 5 и Mythos 5, а уже 12 июня сообщила об отключении доступа к ним для всех по требованию правительства США. Формально требование касалось только неграждан США, но, видимо, разработчик пока не имеет надёжной системы определения гражданства пользователя. Отметим, что для любой ИИ-модели крайне важно её использование как можно большим числом пользователей – модель дообучается, а разработчик исправляет её недостатки. Поэтому Anthropic крайне невыгоден текущий запрет, и компания старается его оспорить.
Формальная причина запрета – потенциальная возможность использовать Fable 5 для взлома веб-сервисов. Опасность применения злоумышленниками актуальна для любой системы, и поэтому разработчики применяют меры предосторожности. Причём в случае Anthropic моделей две как раз из соображений безопасности: Mythos 5 – мощная ИИ-модель без ограничений для узкого круга специалистов, а Fable 5 доступна широкому кругу пользователей, но имеет массу ограничений.
Специалисты по кибербезопасности считают, что ограничения в любой ИИ-модели можно обойти, и в этом плане Fable 5 не опаснее предшественников: потребуется слишком много усилий, чтобы применить её для взлома. Многие из них просят вернуть доступ к новым моделям Anthropic.
Возможно, дело в том, что использование ИИ с целью взлома систем стало трендом в этом году: современные модели обнаруживают уязвимости пачками. И, возможно, правительство США решило, что пришло время отобрать у других стран доступ к потенциальному оружию.
Есть более человеческая версия. Anthropic готовится к IPO и вслед за SpaceX (включающей xAI) может стать одной из самых дорогих компаний мира. Это вызывает зависть, тем более мы уже рассказывали, что компания ссорилась с правительством США. Добавляет интриги сообщение о том, что правительству на Anthropic настучал – внезапно – её крупнейший инвестор, компания Amazon. Деньги деньгами, но кому-то очень не нравится отдавать рычаги управления миром молодой компании.
