Anthropic предлагает новый способ защиты больших языковых моделей от джейлбрейка
📄Компания Anthropic, специализирующаяся на разработке искусственного интеллекта, разработала новую линию защиты от распространенного вида атак, называемых «побегом из тюрьмы». Побег из тюрьмы заставляет большие языковые модели (БЯМ/LLM) делать то, чему они были обучены, например, помогать кому-то создавать оружие.
Новый подход Anthropic может стать самой сильной защитой от «побега из тюрьмы». «Он находится на границе блокирования вредоносных запросов», — говорит Алекс Роби, изучающий проблемы джейлбрейка в…
#Нейросети
Около минуты
7 февраля 2025