Евгений Касперский

Репост

В далёкой далёкой галактике... Каждый раз 4 мая мы отмечаем международный день того самого, что больше известно, как MTFBWY. В этот раз наши исследователи отметили праздник подробным разбором экзистенциальных вопросов кибербезопасности дроидов во вселенной "Звёздных войн". 1) Почему некоторые из них готовы по велению хозяина преступать закон? 2) От чего зависит, кого именно они считают хозяином? 3) Как они сами определяют, кому именно хранить верность и чьи приказы выполнять? Да уж, вопросы, над которыми не жалко поломать голову. К счастью, как я люблю говорить, "мы уже над этим работаем" и, более того, поработали и выпустили подробный тематический рисёрч: kas.pr/5vwk Несколько наблюдений: В сериале «Опорная команда» нам показывают концепцию голосового управления дроидов. Ребёнок, не являющийся владельцем дроида, влияет на его поступки, вводя "железяку" в заблуждение. Ну, однозначно «джейлбрейк» больших языковых моделей (LLM)! Причем обход ограничений кибербезопасности и встроенных фильтров срабатывает не только с роботом-прислугой, но и с боевым пиратским дроидом! "Они бы ещё выключатель ему на спине сделали..." - скажет скептик. "Вы знаете, не хочу вас расстраивать, но..." :) Но мы сейчас не об этом. Дальше - круче! В сериале «Андор» зрителю демонстрируют перепрограммирование боевого имперского дроида K-2SO. Учитывая, насколько это опасная машина, удивляет простота процесса. Повстанцы подменяют некое устройство, после чего дроид становится существом с новыми моральными принципами и начинает верой и правдой служить бывшим заклятым врагам. Какие же выводы из этой лапши можно сделать? Ну, во-первых, очевидно, что дроид под управлением LLM — явная угроза безопасности. Во-вторых, используемая для создания дроидов в «Звездных войнах» программно-аппаратная платформа - полная фигня! Если бы созданием мыслящих роботов занимались наши спецы по конструктивной безопасности, то они бы, конечно, сделали кибериммунное решение! В нём принципиально невозможны вредоносные манипуляции с памятью, а подмена компонента не ведёт к изменению функциональности системы. Но мы всегда на светлой стороне, поэтому вовсе не заканчиваю этот пост сожалением, что давным-давно в далёкой-далёкой галактике не было KasperskyOS: kas.pr/ao55 :)