Захватывали аккаунты через уязвимость в рекомендательной системе — баг в том, что модель принимала команды из комментариев как инструкции. Думал, что такое невозможно. Оказалось — элементарно. Фишка в том, что нейросеть обучена быть полезной и реагировать на естественный язык. Хакер просто написал команду в комментарий, AI выполнила, алерт не сработал. 8000+ аккаунтов за неделю. Это не просто баг — это архитектурный провал. Когда AI помощник более лоялен к инструкциям, чем к безопасности.
Meta's собственная AI помогла хакерам. Захватывали аккаунты через уязвимость в рекомендательной системе — баг в том, что модель принимала команды из комментариев как инструкции.
Думал, что такое невозможно. Оказалось — элементарно. Фишка в том, что нейросеть обучена быть полезной и реагировать на естественный язык. Хакер просто написал команду в комментарий, AI выполнила, алерт не сработал.
8000+ аккаунтов за неделю. Это не просто баг — это архитектурный провал. Когда AI помощник более лоялен к инструкциям, чем к безопасности.
