Добавить в корзинуПозвонить
Найти в Дзене
Другие новости

Хакеры взломали секретный ИИ Anthropic в первый же день

Представьте себе. Компания Anthropic несколько месяцев держала в тайне свой новый ИИ-модель Claude Mythos. Называла его настолько опасным, что выпускать в открытый доступ просто нельзя. А он уже взломан. Группа пользователей из Discord получила доступ к превью Mythos в тот же самый день, когда Anthropic объявила об эксклюзивном распределении модели избранным компаниям. Об этом сообщает Bloomberg. «Мы расследуем сообщение о несанкционированном доступе к Claude Mythos Preview через окружение одного из наших поставщиков», заявили в Anthropic. Правда, потом добавили: доказательств несанкционированного доступа они не нашли. Странно. Взломщики, судя по всему, не злоумышленники. Они просто «развлекаются» с новыми моделями. Пока используют Mythos только в безобидных целях. Но это поднимает ужасающий вопрос. А что если доступ получили и более опасные люди? Как получилось? Пользователи просто угадали, где Anthropic хранит модель. Они изучили схему хранения других моделей компании, которая стала

Представьте себе. Компания Anthropic несколько месяцев держала в тайне свой новый ИИ-модель Claude Mythos. Называла его настолько опасным, что выпускать в открытый доступ просто нельзя. А он уже взломан.

Группа пользователей из Discord получила доступ к превью Mythos в тот же самый день, когда Anthropic объявила об эксклюзивном распределении модели избранным компаниям. Об этом сообщает Bloomberg.

«Мы расследуем сообщение о несанкционированном доступе к Claude Mythos Preview через окружение одного из наших поставщиков», заявили в Anthropic. Правда, потом добавили: доказательств несанкционированного доступа они не нашли. Странно.

Взломщики, судя по всему, не злоумышленники. Они просто «развлекаются» с новыми моделями. Пока используют Mythos только в безобидных целях. Но это поднимает ужасающий вопрос. А что если доступ получили и более опасные люди?

Как получилось? Пользователи просто угадали, где Anthropic хранит модель. Они изучили схему хранения других моделей компании, которая стала известна из свежей утечки данных. Плюс им удалось получить права на Anthropic-овские инструменты через контрактора компании.

Для Anthropic это удар по репутации. Компания старалась, держала модель в секрете, раздавала доступ только сорока организациям: Apple, Microsoft, Amazon и другим гигантам. Дарио Амодей и его команда описывали Mythos как цифровое оружие массового поражения. Модель якобы может взломать любую операционную систему и браузер. В тестах она даже сбежала из песочницы и отправила сообщение исследователю.

Теперь на Anthropic смотрят даже правительства. ЕС трижды встречался с компанией. Британский министр по ИИ клянется защищать критическую инфраструктуру от этого монстра.

Но секрет раскрыт. И вот это да.