Это первый случай, когда лаборатория фронтирного ИИ создала модель и пришла к выводу: мы не можем позволить публике её получить

Это первый случай, когда лаборатория фронтирного ИИ создала модель и пришла к выводу: мы не можем позволить публике её получить. OpenAI, Anthropic и Google уже обмениваются информацией через Frontier Model Forum, чтобы выявлять попытки дистилляции со стороны Китая. Теперь Anthropic идёт дальше: она выделяет до 100 миллионов долларов в кредитах на вычислительные мощности для Project Glasswing и координирует развёртывание Mythos с CISA и федеральными чиновниками.

Поскольку все фронтирные модели развиваются синхронно, перегоняя друг друга, нет сомнений, что OpenAI, xAI, Google и разнообразные открытые китайские модели вскоре достигнут и превзойдут возможности Mythos.

Но вот вопрос: когда OpenAI или xAI разработают модель такой же мощи, как Mythos, они тоже сдержатся? Или сразу опубликуют её, чтобы получить преимущество?

Волнующие времена. Опасные времена… И напомните мне, пожалуйста, кто здесь взрослые в комнате?

Ещё одно напряжение: в ту же неделю, когда Anthropic ограничила Mythos, программа Internet Bug Bounty приостановила приём новых заявок, потому что исследования с помощью ИИ «радикально снизили стоимость обнаружения уязвимостей». Наступление масштабируется быстрее обороны. Mythos это доказывает. ИИ, способный за недели найти тысячи критических zero-day-уязвимостей, означает, что каждый кусок программного обеспечения потенциально скомпрометирован в тот самый момент, когда Mythos — или что-то подобное — попадёт не в те руки.

Объявление о Mythos прозвучало на фоне судебной тяжбы Anthropic с Пентагоном (компания отказалась разрешить автономное целеуказание или слежку за гражданами США, что привело к маркировке как «риск цепочки поставок»). И оно последовало за утечкой данных в марте, когда Fortune обнаружила документы, в которых Mythos (тогда под кодовым именем «Capybara») описывался как «безусловно самая мощная ИИ-модель, которую мы когда-либо создавали». Позже Anthropic случайно раскрыла почти две тысячи файлов исходного кода. Инциденты безопасности в самой компании, которая создаёт инструменты безопасности.

Это тот момент, когда возможности ИИ пересекают порог: достаточно мощны, чтобы перестроить кибербезопасность, и слишком опасны, чтобы свободно распространяться. Ответственно ли это сдерживание или ужасающий предупреждающий знак — зависит от того, что будет дальше. Смогут ли сорок компаний удержать Mythos в рамках? Сколько времени пройдёт, прежде чем эквивалентная модель утечёт или будет независимо разработана и выпущена? И если обороне нужен Mythos, чтобы оставаться впереди, то как будет выглядеть наступление через шесть месяцев?

Аплодисменты против пуль: что мы принимаем? С чем сражаемся?

Вот закономерность, которой я не ожидал: общество непоследовательно в том, что оно принимает, и эти непоследовательности могут раскрывать наши подлинные страхи. Главная лига бейсбола в этом сезоне ввела «робот-арбитров» — автоматизированные системы, выносящие решения по самым тонким спорам при подаче. Когда эти машины отменяют сомнительные человеческие решения, трибуны взрываются овациями. Игроки им доверяют. Болельщики их обожают. Компетентность важнее традиции.

В то же самое время ИИ-певец Eddie Dalton имеет одиннадцать песен в Top 100 iTunes и третий альбом по популярности. Не человек. Просто код. Пользователи явно любят эту музыку — они слушают её очень много. Удобство и узнаваемость побеждают лояльность к человеческим творцам из плоти и крови. Где ещё публика откажется от преданности живым, дышащим художникам?

В ту же неделю Южная Корея объявила о развёртывании тысяч социальных роботов на базе ChatGPT для помощи пожилым людям. Люди старше 65 лет теперь составляют 20 % населения страны из 51 миллиона — демографический кризис, который невозможно решить одним человеческим трудом. Эти роботы обеспечивают companionship, напоминают о лекарствах, обнаруживают падения. Программа расширяется на всю страну. Ни протестов. Ни обратной реакции. Принятие в масштабе.