☠️🧠 Одно дело - сбивать нейросети с толку, а другое дело перепрограммировать их, заставляя делать не то, для чего они предназначены. Исследователи из Google опубликовали статью, в которой изложены наброски методов подачи на вход нейросети специально сгенерированных данных, запускающих в ней процессы совершенно постороннего назначения. В статье (сама работа очень математическая, но разделы Abstract и Discussion можно почитать) приведена пара интересных примеров. Например, погуляв по городу в майке с правильной картинкой, можно заставить городскую систему видеонаблюдения реагировать на собак вместо людей, или просто майнить старые добрые криптовалюты. По сути, очень похоже на обычные атаки удалённого выполнения кода, только теперь им подвержен не обычный софт, а "искусственный интеллект".
Впрочем, это только proof of concept, и кричать "мы все умрём" не стоит. Очередная битва брони и снаряда, всё будет хорошо, и не такое видали.
P.S. Сейчас вспомнил, что наш мозг - это очень большая нейросеть. Но там до понимания устройства, как до Луны пешком, хотя мне нравится размышлять о таких вещах. 😈
