В последние годы в нашу жизнь все активнее проникают информационные технологии, делающие нашу жизнь более комфортной и насыщенной. Но в этой тотальной цифровизации много рисков и угроз для конкретного человека и общества в целом. Какие они? Можно ли их как-то классифицировать? Президент ГК InfoWatch Наталья Касперская считает, что можно.
По ее мнению, внедрение любой новой технологии всегда сопровождается определёнными рисками. Так, например, массовая установка в российских городах видеокамер с распознаванием лиц, сведение воедино и анализ данных о гражданах из разных источников, дают безграничную возможность получения информации практически о любом человеке. Эту информацию можно использовать с целью шантажа, давления, пропаганды и других манипуляций.
Цензура и манипулирование
Кстати, крупные цифровые платформы тоже занимаются манипуляциями. Американские гиганты, работающие в юрисдикции США — Facebook, Twitter, Google, YouTube и др. — вовлекаются в политическую деятельность, подсовывая пользователю определенный контент, поднимая в рейтинге тот, который они считают нужным продвигать, и понижая, например, патриотические тексты. Кроме того, платформы блокируют пользователей, которые выражают недовольство или осуждают политику платформы. По сути, это частная цензура. И чем дальше, тем больше она будет ужесточаться. Риск частной цензуры, по мнению Натальи Ивановны, есть и со стороны отечественных платформ.
Помимо этого, благодаря использованию алгоритмов искусственного интеллекта (ИИ) на больших данных, цифровые платформы (то есть интернет-сервисы, соцсети, мобильные операторы, видеохостинги и т.д.) прекрасно знают своего пользователя и могут предлагать ему совершенно неотразимую рекламу, точно нацеленную именно на него и убедительную политическую пропаганду. Иными словами, манипулировать общественным мнением.
Социальные риски
Цифровизация несёт в себе и социальные риски. Например, риски, связанные с изменением ландшафта рынка труда и характера будущих профессий. Сейчас очень много говорится о том, что внедрение систем искусственного интеллекта порождает риск потери миллионов рабочих мест за счет передачи ИИ части человеческих функций. Ситуация осложняется тем, что люди, способные работать с системами ИИ, как правило, более молодые и имеют другую подготовку нежели те, кто выполняет рутинные операции в офисах, на производстве, на транспорте. Люди со слабыми техническими знаниями и навыками могут остаться за бортом. Такая ситуация может вызвать серьезные социальные потрясения.
Новая цифровая власть
Более того, среди социальных рисков Касперская отдельно останавливается на риске появления параллельной цифровой власти. Никто не задумывается о том, что при повышении роли ИТ и особенно больших данных новый цифровой класс людей получает ранее невиданную власть. Эту власть они получают ее по факту - из-за того, что имеют доступ к управлению системами ИИ в социально значимых областях (персональные данные граждан, трудоустройство, образование, медицина, кредитование и пр.). Это разработчики, операторы, системные администраторы систем ИИ и баз данных, управляющие ими чиновники и «цифровые клерки». Обычно это гражданские лица, не ограниченные присягой и формами секретности. Им становятся доступны манипуляция данными, продажа данных, шантаж, коррупция на основе коррекции рейтингов и данных. Это создаёт серьезнейший риск возникновения параллельной, неконтролируемой системы коррупционной цифровой власти в России.
Незаконное использование личных данных
Если же говорить о сборе и анализе больших пользовательских данных о людях (например, тех, которые они сами о себе выкладывают в соцсетях), то к вышеперечисленным технологическим рискам надо добавить риски нарушения конституционных прав граждан на тайну личной жизни. А также риски манипулирования личными данными и их использованием в отличных от заявленных целях. Все помнят, как Москва собрала информацию о больных коронавирусом, а потом эти люди, вдруг, начали получать массовую рекламу или попадать в коммерческие опросники.
Есть и риски нелегитимного сохранения данных, подлежащих уничтожению. Например, ДИТ Москвы заявлял о том, что данные о гражданах из приложения для COVID-19 будут уничтожаться автоматически через пять недель. А через пять месяцев произошла утечка этих данных, и информация об этой утечке попала во все СМИ.
Что делать?
По мнению Касперской нужно не запрещать технологии, а вводить законы, регулирующие использование личных данных граждан, повышать ответственность лиц, имеющих доступ к данным и серьезно наказывать за их нецелевое использование.
А что о внедрении в нашу жизнь «самых новых технологических новинок» и рисках всего этого думаете вы?
