17 ноября в эфир Первого канала вышла программа «Док-ток» с участием Натальи Ивановны Касперской и Игоря Станиславовича Ашманова.
Глава ГК InfoWatch и президент компаний «Крибрум», «Ашманов и партнеры» затронули в эфире Первого следующие вопросы:
· Каким может стать мир, встав на путь цифровизации и какие угрозы она таит?
· Цифровая безопасность. Как защитить себя от собственного телефона?
· «Фэйспэй» - удобство и надежность покупок или риск потерять свою идентичность?
· «Дипфейк» - новый вид визуального искусство или опасный инструмент для манипуляций?
· Цифровизация - предвестник гибели человечества или закономерная трансформация мира?
· Цифровое рабство - добровольный выбор? Мы уже в рабстве у искусственного интеллекта? Кто и как за нами следит?
· Так ли нам грозят перемены, в которых мы превращаемся из потребителей в товар? Что можно противопоставить алгоритмам соцсетей? Где грань между здоровыми опасениями и паранойей?
· Когда технологии ИИ станут привычной частью жизни? Или уже стали?
· Самые интересные моменты эфира мы решили вынести в текст ниже.
Александр Гордон: о новой цифровой эпохе в развитии человечества говорят уже на самом высоком уровне. Так, президент РФ принял участие в одном из форумов, посвященных развитию искусственного интеллекта (ИИ). Владимир Путин отметил, что это, конечно, прорыв для человечества, но эта новая технология несет и новые опасности, и новые страхи.
Мы немного знаем о преимуществах использования ИИ и в целом - цифровизации нашей цивилизации, а вот какие опасности нас, людей ждут на этом пути?
Игорь Ашманов: Во-первых, нужно сказать, что та цифровизация, которую нам продают под лозунгом удобства, это гражданская цифровизация, а ИИ и большие данные – военная технология и ее ключевые страны мира (США, в первую очередь) рассчитывают использовать для преодоления ядерного паритета. То есть, быстрое внедрение ИИ, в первую очередь, в оборонке, напрямую влечет нас к Третьей мировой. Потому что как только наши противники поймут, что можно обойти ядерный паритет, как тут же эта война, скорее всего, и произойдет.
Внутри общества ИИ и цифровизация это полное уничтожение приватности, это огромная возможность для социальной дискриминации (социальных рейтингов и проч.). Кроме того, это гигантский простор для цифрового криминала, цифровой коррупции.
Александр Гордон: Превращение человека в цифровой вектор может привести к чему?
К тому, что с него слетят все признаки человечности, в том числе и его права на что-либо. Потому что, если все воспринимают его как вектор, с ним и можно делать все, что с вектором. Чтобы сделать из персоны цифровой вектор, нужно собрать ее данные, создать цифровой рейтинг, нужно во всех базах данных свести воедино этот идентификатор человека, присвоить данным категории: личные взгляды, потребительские предпочтения и т.д. И дальше управлять только этим. В этот момент вся ответственность за человека как человека слетает. Мы видим только потребителя или носителя какой-то демографической информации. И, по-хорошему, с вектором можно делать все, что угодно! Закон сейчас не запрещает и никак не наказывает за утечки конфиденциальной информации – например, персональных данных, за манипуляции такими данными.
Александр Гордон: Есть ли у нас какие-то возможности уберечься от того, чтобы стать цифровым вектором? Например, в Москве сейчас активно внедряется система оплаты лицом – Face Pay. В метро можно пройти просто, предъявив лицо. Но для этого свое лицо нужно сначала поместить в базу, в систему и связать со своим цифровым кошельком. И люди это делают добровольно! Безопасно это или нет?
Наталья Касперская: В последние годы стала очень модна тема биометрии. Более того, был принят ряд регуляторных актов, направленных на то, чтобы принудить людей сдавать биометрию. В частности, ЦБ РФ в 2018 году выпустил регуляторные указания о том, что банки должны принудительно использовать биометрию. Это значит, что банк обязан стимулировать своих клиентов к сдаче биометрии и обязан использовать биометрические системы. Для банков это – дополнительная нагрузка. Это дорого, потому что защита биометрических данных довольно сложна, потому что хранение большого объема информации требует известных средств. Квалификации людей, которых у банков, как правило, нет. И, конечно, биометрические данные требуют серьезной защиты.
Банки от этого дела старались отвертеться – до текущего момента. И Центральный Банк (ЦБ) все время переносил сроки обязательного внедрения биометрии.
Александр Гордон: А зачем ЦБ это нужно?
Игорь Ашманов: Есть теория, что это будет безопаснее.
Наталья Касперская: Да, считается, что биометрические данные невозможно подделать. Но если говорить, например, о дипфейках («технологиях глубинной подделки – от англ. deep fake), то становится понятным, что подделки возможны. Причем, нам говорят, что защита в этом случай – проверка на «живость» лица. Но, как правило, человек сейчас платит удаленно, c мобильного. Вполне возможно, что этот поток данных можно перехватить и подменить. Сейчас сложность самой подмены выше и дороже, чем сумма, которую можно украсть. Поэтому мы не видим массовых мошенничеств. Как только снимут лимит на сумму и сделают биометрию массовой, то злоупотребления начнутся немедленно. Я много лет занимаюсь информационной безопасностью (ИБ) и вижу, что есть общая тенденция: как только технология становится массовой, то сейчас же начинается злоупотребление этой технологией. Использование для написания вирусов, взломы, использование не тем способом и так далее.
Александр Гордон: Я правильно понимаю, что для эксперимента можно купить информацию о себе? Тогда ты, вроде как, и не преступник. Но также можно купить ее о любом другом? Какого рода информацию уже сейчас можно купить?
Игорь Ашманов: Был проведен эксперимент: что можно купить за два часа о человеке. И выяснилось, что те, кто понимает и сидит на форумах в «темном интернете», знают, где эту информацию покупать. Они купили о человеке все – включая его банковские счета и активы, а также его путь по городу (видео-путь с системы камер «Безопасный город») за день, с передачей с камеры на камеру. Все это вместе стоило меньше 10 т.р. Можно также купить невидимость для своего номера автомобиля – чтобы на него не приходили штрафы. Можно сделать себя невидимкой для подъездных камер. То есть, цифровизация не снижает количества криминала, а повышает. Причем, не только его количество, но и его качество. Возможности так называемого «инфоцыгана» возрастают кратно, на многие порядки. Он может «веером» разослать свои предложения с социотехникой десяткам тысяч людей, отобрать наиболее внушаемых, которые повелись. Ну и сама коррупция по продаже данных тоже становится возможной, тем более, что системный администратор, который это делает где-нибудь в банке, еще может просто затереть следы и никто ничего не докажет.
Вы когда-нибудь слышали о публичных процессах с наказанием сисадминов или их начальников?
Александр Гордон: Я – нет.
Игорь Ашманов: А между тем, данные на всех граждан нашей страны украли на предыдущем этапе цифровизации. Ведь всем же позвонили «из Службы безопасности банка…».
Продолжение следует...