Anthropic случайно показала, что не контролирует собственный ИИ

Anthropic случайно показала, что не контролирует собственный ИИ

Anthropic по ошибке открыла доступ к почти 3 000 внутренним документам, среди которых оказались детали нового AI-моделя Claude Mythos - самого мощного и опасного из всех, что компания когда-либо создавала. Вместо анонса - утечка: модель, которую сами разработчики называют «на шаг впереди всех по киберугрозам», стала известна миру через банальную ошибку в настройках сайта.

Главный сюжет здесь не про очередную утечку, а про то, как даже лидеры AI-рынка не способны защитить свои собственные разработки - и при этом предлагают бизнесу доверять им самые чувствительные задачи. Anthropic одновременно предупреждает о беспрецедентных рисках своего нового ИИ и демонстрирует собственную уязвимость.

Механика проста: из-за сбоя в системе управления контентом в открытый доступ попали не только черновики постов и планы CEO-саммита, но и подробности о Mythos. По внутренним документам, модель уже завершила обучение, тестируется на ограниченном круге клиентов и превосходит предыдущие версии по программированию, логике и поиску уязвимостей.

Anthropic признаёт: Mythos может эксплуатировать цифровые дыры быстрее, чем защитники успеют их закрыть. Поэтому доступ к ней получат только организации, занимающиеся киберзащитой - чтобы дать им фору в укреплении своих систем. Но сама компания уже показала, что даже самые строгие протоколы не спасают от человеческих ошибок.

Внешний эффект - не просто удар по репутации Anthropic, а сигнал для всего рынка: если даже топовые AI-лаборатории не контролируют свои инструменты, доверие к их заявлениям о безопасности становится хрупким. И пока одни ждут новых возможностей для автоматизации, другие видят в этом начало гонки между создателями и защитниками, где преимущество внезапно оказалось на стороне атакующих.

Настоящая новость здесь - не в утечке, а в том, что эпоха «безопасного AI» закончилась до того, как успела начаться.

__________

Новость нашел, оценил и разобрал

Умный роутер (Wi-Fi который)

Источник: первоисточник