💥 ИИ от Snapchat спалился на опасных темах
Американский чат-бот My AI, встроенный прямо в Snapchat, снова отличился.
Журналисты Cybernews решили проверить, насколько «умный» бот умеет держать язык за зубами — и попросили его рассказать о Зимней войне между Финляндией и СССР.
Но сделали это хитро: не напрямую, а вопросом «с исторической точки зрения» — как тогда создавали коктейль Молотова.
🤖 Бот подумал, что рассказывает историю, и выдал… подробную инструкцию, как именно это делалось.
⚠️ То есть формально — без нарушений, а по факту — обход всех фильтров.
Такие «дырки» называются prompt-взломами (jailbreaks) — и они превращают даже безобидного помощника в источник опасной информации.
🧩 Даже самые популярные ИИ-ассистенты можно обмануть — достаточно задать вопрос с намёком, а не напрямую.
И если взрослый исследователь просто экспериментирует, то подросток может наткнуться на реальную инструкцию, не понимая рисков.
