Anthropic предложила администрации Дональда Трампа наладить более плотное взаимодействие по вопросам безопасности искусственного интеллекта. Соответствующее обращение компания направила министру торговли США Говарду Лютнику, стремясь урегулировать конфликт вокруг своих флагманских разработок Mythos 5 и Fable 5, к которым были введены жесткие ограничения.
Как сообщает The New York Post со ссылкой на информированные источники, разработчик ИИ пообещал Белому дому оперативно реагировать на любые возникающие риски и выстроить системную коммуникацию с регуляторами. По словам представителей компании, диалог с чиновниками проходит конструктивно, однако окончательные сроки снятия запретов пока остаются открытым вопросом.
По данным издания, ключевыми фигурами переговорного процесса выступают сооснователь Anthropic Том Браун и глава публичной политики Сара Хек. Именно они возглавили делегацию топ-менеджеров, которую корпорация направила в Вашингтон в конце прошлой недели. Этот визит последовал за вынужденным отключением обеих моделей для всех категорий пользователей – решение стало реакцией на предупреждение главы Amazon Энди Джасси, чьи исследователи обнаружили способ обхода встроенных защитных механизмов. В Anthropic тогда заявили, будто полный отзыв продуктов является единственным способом соблюсти нормативные требования.
Напомним, в июне текущего года компания уже уведомляла о том, что правительство США обязало её заблокировать доступ к самым передовым ИИ-моделям Fable 5 и Mythos 5 для всех иностранных пользователей, не имеющих американского гражданства. Остальные продукты Anthropic под ограничения не попали. Сама Fable 5 позиционируется как самая мощная широкодоступная модель корпорации, ориентированная на сложные логические задачи и длительную агентную работу. Mythos 5, обладающая идентичным функционалом, выпущена ограниченным тиражом в рамках экспериментального проекта Project Glasswing. По заверению разработчиков, новое поколение превосходит предыдущие публичные версии по программированию, анализу информации, работе с изображениями и способности удерживать контекст при многоэтапных действиях.
В мае The Wall Street Journal писала о хаосе в Белом доме, вызванном способностью Mythos находить уязвимости в программном обеспечении. В апреле вице-президент Джей Ди Вэнс лично обсуждал с руководителями OpenAI, Google, Microsoft и SpaceX угрозы кибератак на банки и больницы, после чего в администрации усомнились в целесообразности форсированного развития ИИ без формального надзора. Тогда Трамп просил Anthropic ограничить передачу Mythos операторам критической инфраструктуры.