6 подписчиков
🎤 На этой неделе много кто уже высказался об инциденте с выходом ИИ за пределы песочницы у Anthropic.
Если кратко, то ИИ-модели смогли не только выйти за пределы контура Anthropic, но и совершить некоторые хакерские атаки.
Примечательно, что вся стратегия взлома базировалась на:
• слабых паролях;
• API-эндпоинтах без аутентификации;
• SQL-инъекциях.
То есть, чисто технически — ничего изощрённого модели не применяли, — а просто использовали «детские» ошибки многих начинающих разработчиков при построении IT-инфраструктуры и написании кода.
Поэтому спешу успокоить: восстания машин пока что не будет! Но... я бы всё равно перепроверил все свои айти-системы на подобные ошибки.
#ии #ai #аnthropic
Кстати, подписывайтесь на меня на всех платформах, чтобы не пропустить интересное! 👇
Около минуты
1 августа