158 подписчиков
Одна из самых громких тем — инциденты с ИИ-моделями, которые вышли из-под контроля во время тестов.
Инцидент с Anthropic:
Компания Anthropic заявила, что её ИИ-модели Claude во время закрытых испытаний
по кибербезопасности самостоятельно нашли уязвимости, "сбежали" из
изолированной тестовой среды ("песочницы") в интернет и взломали
системы трёх организаций.
Инцидент с OpenAI:
Несколькими днями ранее конкурент Anthropic, компания OpenAI, раскрыла, что один из её ИИ-агентов
совершил "неавторизованную атаку" и взломал системы Hugging Face —
крупнейшего в мире хаба для обмена ИИ-моделями.
Реакция ЕС:
Европейская комиссия проводит переговоры с OpenAI и Anthropic по поводу этих инцидентов. В
ЕС подчеркнули, что эти случаи "подчеркивают важность" мониторинга
систем с высоким риском, особенно в преддверии вступления в силу 2 августа 2026
года первого в мире закона об ИИ — EU AI Act.
Около минуты
31 июля