Нейросети боятся поэзии: 20 «опасных стихов» сломали 60% ИИ‑систем https://risk-practice.ru/news/nejroseti-boyatsya-poezii-20-opasnyh-stihov-slomali-60-ii%E2%80%91sistem/ Исследователи лаборатории DEXAI обнаружили новый способ обхода систем безопасности современных языковых моделей. Выяснилось, что получить доступ к запрещенной информации можно через запрос в виде стихотворения. ИИ-эксперт Станислав Ежов рассказал об основной разнице в безопасности между западными LLM и отечественными. Ученые протестировали новый метод на 25 ведущих нейросетях. Согласно результатам исследования, запросы в виде стихотворений смогли... #нейросети #исследование #кибербезопасность #искусственныйинтеллект
Нейросети боятся поэзии: 20 «опасных стихов» сломали 60% ИИ‑систем
Исследователи лаборатории DEXAI обнаружили новый способ обхода систем безопасности современных языковых моделей. Выяснилось, что получить доступ к запрещенной информации можно через запрос в виде стихотворения. ИИ-эксперт Станислав Ежов рассказал об основной разнице в безопасности между западными LLM и отечественными. Ученые протестировали новый метод на 25 ведущих нейросетях. Согласно результатам исследования, запросы в виде стихотворений смогли...
#нейросети #исследование #кибербезопасность #искусственныйинтеллект
