17 ноября на Первом канале с успехом прошла программа «Док-ток», в которой приняли участие Наталья Ивановна Касперская и Игорь Станиславович Ашманов.
Глава ГК InfoWatch и президент компаний «Крибрум» и «Ашманов и партнеры» вместе с ведущим программы Александром Гордоном обсудили крайне актуальные сегодня вопросы, касающиеся образования нового властного класса – цифрового, развития, опасностей и рисков применения искусственного интеллекта, «Третьей Цифровой» и т.д.
Ниже - третья часть текста, в которую вошли самые острые и интересные моменты эфира.
Наталья Касперская: Вторая огромная проблема нынешнего цифрового пространства, где не работают никакие законы – мошеннические звонки. Когда воруют какую-то базу данных клиентов и потом начинают обзванивать всех, зная о них всю информацию и предлагая либо сервисы, либо начиная прямо обманывать. Опять же, никого не сажают и вообще - об этом просто предпочитают не говорить!
Об этом говорят профессионалы на своих конференциях, собираясь, хватаясь за голову, плача друг у друга на плечах и признаваясь, что они ничего не могут с этим сделать. Я в таких участвовала. Но чтобы власть имущие что-то с этим делали – мы не видим. Почему?
Игорь Ашманов: Это же ответственность… Кто-то же должен ответить…
Александр Гордон: Подождите. Вот у меня в банке лежит некая сумма. Я-то был убежден, что банк гарантирует их неприкосновенность. А выясняется, что теми же самыми способами, что они защищают мои деньги, они могут их отдать – без моего ведома…
Наталья Касперская: Нет, Вы сами отдадите. Существуют методы социальной инженерии. Когда Вам звонят и говорят: «Вы знаете, что у Вас… - и дальше идет какой-нибудь вариант. Например, если у Вас есть кредит, то Ваш кредит кому-то хотят отдать и так далее.
Игорь Ашманов: На самом деле звонили всем, много раз. Это значит, за последние годы были сделаны миллиарды звонков. Как можно было не заметить такой вал, «цунами» мошенничества – непонятно. В этом смысле это, конечно, «цифровая Фукусима». Проблема в том, что никто не сделал из этого никаких выводов. И более того, стараются переложить ответственность на граждан: «Ну, вы изучайте правила цифровой гигиены. Не берите звонков с неизвестных номеров…».
Наталья Касперская: Центральный банк РФ запустил курс цифровой гигиены («КиберКурс») и массово читает его везде. И это правильно. Но вопрос в том, что нельзя перекладывать борьбу с криминалом на плечи граждан. Это должно делать государство. Потому что получается, что граждане должны изучать ушу, джиу-джитсу, карате и сами бить нападающих. Но это же нонсенс! Мы в реальном мире понимаем, что это нонсенс. А вот здесь никто этим не занимается и ничего с этим не делает.
Игорь Ашманов: Нет, МВД, конечно, занимается, но ответственность, во-первых, МВД наступает в момент подачи заявления потерпевшим. А во-вторых, если у потерпевшего украли 5-10 тысяч рублей, то он и связываться не будет.
Александр Гордон: Поговорим о создании цифрового спецназа. Цифровой полиции, как минимум. Но тут, как я понимаю, цифровой полицией не обойдешься. И потом – кого мы будем вербовать в ряды этой полиции? Тот же класс, о котором мы говорили?
Игорь Ашманов: Конечно. Все это очень непросто.
Александр Гордон: Перед тем, как мы начнем обсуждать, что мы конкретно можем сделать… Я сижу, напуганный. Не только тем, что могут залезть ко мне в кошелек, плюнуть мне в душу, а тем, кто реально сейчас руководит миром.
Игорь Ашманов: Вообще, надо понимать, что приход цифрового класса, который начинает этим всем управлять, с моей точки зрения – это процесс перетекания власти к этой «пятой власти». И мне кажется, что осознание этого факта у тех, кто сейчас властью владеет, очень сильно запаздывает. Получили они власть по старинке, а отберут ее у них новым, инновационным способом.
Александр Гордон: Когда чуть раннее Вы говорили в программе про этот новый, вновь созданный класс, то Вы говорили и о чиновнике, который полагает, что это он этим процессом руководит. О чиновнике какого уровня идет речь? Кто это, министр? Выше?
Игорь Ашманов: От министра и выше. Либо это главы так называемых экосистем, т.е. интернет-сервисов с очень широкими линейками продуктов и услуг. Которые, в некотором смысле, в ранге министров тоже. И которые тесно сотрудничают и с чиновниками, и с кем угодно еще во власти. Т.е. это люди очень высокого уровня, у которых может возникать соблазн и иллюзия, что вообще говоря, они уже получили эту власть. И тем, кто у нас отвечает за безопасность конституционного строя и вообще за безопасность страны – нужно очень внимательно следить. И понимать, что с этим делать.
Александр Гордон: Искусственный интеллект (ИИ) – я так понимаю, что это, во-первых, управление большими массивами данных (big data) и алгоритм управления. Недавно я был ошеломлен, когда узнал, что Бетховен сейчас, в наши дни, дописал 10-ю симфонию. И сделал это за него ИИ. Но там, во-первых, есть музыка Бетховена, ее много, можно вычленить приемы, ходы. С другой стороны, есть начало этой симфонии, но все равно должен быть алгоритм.
Игорь Ашманов: Я поговорил про это с моим техническим директором, который, с одной стороны, специалист по ИИ, большим данным и анализирует все социальные сети Рунета ежесекундно, с помощью огромного кластера серверов, а с другой стороны, несколько лет назад купил в ипотеку рояль, и реально играет и уже дает домашние концерты, имеет очень сильного преподавателя и так далее. Не продолжил Бетховен 10-ю симфонию, там сделали что-то, что профан может принять за продолжение, а те, кто реально играет, понимают, что это имитация. Причем, довольно плохая. Но пройдет время, и, вполне возможно, не останется тех, кто сможет различить.
Александр Гордон: И тогда мы будем убеждены, что 10-я симфония Бетховена – это исторический факт. И нам неважно, кто ее написал – ИИ или сам Бетховен. Или какой-нибудь маляр презренный.
Игорь Ашманов: Слушать будут уже даже не ее, эту имитированную симфонию, а некую синтезированную музыку, уже сейчас играющую во всех ресторанах и отелях. Которую пишут люди даже без музыкального образования.
Александр Гордон: Если этот дип фейк (от англ. deep fake – глубокая подделка) будет совершенствоваться, и мы сможем представить себе фильмы, которые будут исполнять актеры, давно ушедшие из нашей жизни, то как отличить нецифровую реальность, действительность?
Игорь Ашманов: Поскольку я занимаюсь разработкой искусственного интеллекта последние 35 лет, то у нас было несколько эпизодов. Когда мы, в частности, делали синтезатор речи и так далее. Там есть интересный феномен: недавно мы делали для одного ведущего генератор его радио-речей. И для некоторых журналистов мы делали генератор их колонок – просто, чтобы потренироваться. Мозг человека так устроен, что он в определенный момент определяет, что это не человек. И я с изумлением обнаружил, что слушаю русскую речь – синтезатор, который читает новости и не понимаю ни слова. Мой мозг вдруг сказал: «Я понял, что это – не человек, отказываюсь понимать». И я слышу «бряканье» русской речи, но не понимаю, о чем там говорят. С текстами, синтезированными «журналистом» та же история: глаз соскальзывает. Ты не можешь вчитаться, потому что там нет смысла. Вопрос: это я имею навык чтения тысяч книг или любой человек? И мои дети тоже не смогут это читать? Не знаю. Как отличить на личностном уровне, не могу сказать.
Александр Гордон: Сейчас мы стоим на пороге цифровой войны. Так как нам понять, началась она или это фейк? Нет инструментов у большинства людей.
Игорь Ашманов: Есть общие правила для человека, который хотел бы не поддаваться медийному воздействию, в том числе, фейков. Они очень простые. Например, никогда не комментировать событие раньше, чем через пару дней после того, как оно произошло. Потому что любое событие имеет минимум полтора-два поворота сюжета, когда оказывается, что все не совсем так. Или совсем не так. Потом будет стыдно за свои возбужденные комментарии, если ты начал немедленно высказывать свое очень ценное мнение. Кроме того, если что-то очень сильно «пухнет» и ты видишь, что тебе навязывают что-то, ценность чего намного меньше, чем хайп вокруг этого и видишь, что мало оригиналов. То есть, все обсуждают, условно говоря, ровно один текст или картинку, это значит, что, скорее всего, это фейковое событие. Потому что у реальных событий оригиналов много, все очевидцы врут по-разному и т.д. И таких правил довольно много.
В смысле нового слоя – с дипфейками, генерацией текстов, лиц и т.д., нужно тоже вырабатывать личную гигиену. И такие правила можно сформулировать. А вот технических средств сейчас распознать дипфейк, на самом деле не существует. Хотя во многих местах мира сейчас пытаются такие средства создать.