Недавно дала интервью для подкаста «Известий». Удалось поговорить про цифровую слежку и слив наших данных, технологическую независимость России и развитие собственного стека технологий, о противодействии мошенникам, а также — куда без этого — об актуальных рисках ИИ и деглобализации современных технологий. Ниже основные тезисы беседы. Если интересно, посмотрите полное видео — разговор вышел интересный.
Умный гаджет — это шпион
Любая умная колонка — это шпион. Любой современный телевизор — тоже. У него есть камера, микрофон, он подключен к интернету. Все, что вы говорите, улетает производителю на серверы. Поэтому у высоких чиновников в телевизорах удаляют антенны и другие передающие устройства. Если вы не хотите, чтобы за вами шпионили дома, просто не покупайте такие устройства.
Почему бумага безопаснее «цифры»
У «цифры» есть одно существенное отличие от бумажного документа — возможность моментальной репликации. Вы отправили видео — оно утекло — и весь интернет обсуждает, что там было. Бумагу так быстро не размножить. Поэтому, когда надо передать особо конфиденциальную информацию, до сих пор используют курьеров. Например, так делают военные.
О хакерах и мошенниках
На 100% снять проблему цифрового мошенничества нельзя, но можно минимизировать воздействие. Для этого нужны консолидированные усилия. А они начали применяться только с марта прошлого года — на уровне операторов связи, банков, дропперов. Я думаю, что более строгие меры надо применять к операторам — они же видят все звонки.
Я десять лет руководила антивирусной кампанией. Это бесконечная история: мы придумывали противоядие — хакеры придумывали новый ход. Это борьба щита и меча, которая лишь ускоряется.
По-прежнему происходят утечки данных. Абсолютный антирекорд был в 2024 году — украли более миллиарда записей данных российских граждан. На основе украденных данных мошенники строят эффективные схемы. Что тут делать обычному человеку? Например, иметь секретный вопрос для идентификации родных — не тот, что можно найти в соцсетях. И не вступать в диалог с мошенниками. Положили трубку — и все. Когда вы начинаете беседовать, вы даете им снять паттерн вашего голоса, чтобы потом сгенерировать его и использовать против вас.
И, кстати, надо меньше писать о себе в интернете. Не хвастаться машинами и деньгами, не рассказывать о своих планах и перемещениях.
Вход в интернет по паспорту
В ответ на современные цифровые угрозы звучат предложения деанонимизировать интернет — условно говоря, пускать только по паспорту. Это очевидное, хорошее и неправильное решение. Мошенникам это никак не помешает — они априори стоят вне правового поля. Законопослушного гражданина это сделает абсолютно прозрачным и уязвимым. Кому-то не понравится, что вы написали, — он придет и разобьет вам голову. А мошенники все равно будут притворяться вами или кем-то еще. Это вообще не решит проблему.
Определение ИИ и проблемы генеративных моделей
ИИ — это набор технологий, которые имитируют когнитивные функции человека. Под одним зонтиком собралось много разного. Антивирус — это ИИ. DLP-система — тоже ИИ. Но в голове обывателя ИИ — это большие языковые модели, которые генерируют тексты и картинки.
Основная проблема таких моделей — они галлюцинируют. И не могут не галлюцинировать — это встроенное свойство. Они берут существующие тексты, перемешивают и выдают вероятностный ответ. Сгенерированные тексты загружаются обратно в модель — качество падает еще больше. Последние полтора года качество уже не растет. На Западе все больше скептических голосов относительно ИИ и качества того, что ИИ-модели выдают.
ИИ в образовании — катастрофа
Школьники делают уроки с помощью нейросетей — берут готовые тексты и отправляют учителям, не включают голову. Преподаватели проверяют эти работы тоже при помощи ИИ. Это система чистой имитации: преподаватели имитируют деятельность, ученики имитируют обучение. В итоге, мы вообще не понимаем, что кто знает и знает ли.
Есть исследования, которые говорят о том, что 43% студентов, которые использовали ИИ для написания работы, не смогли даже назвать ее тему. Не то что пересказать — просто назвать тему. Мы рискуем вырастить поколение, которое ничего не знает и не понимает.
Образование должно быть консервативным. Мы учим тому, в чем человечество уверено. Если 2х2 — четыре, нет вариантов, что это 4,2. Технологии же меняются каждый день. То, что внедрили сегодня, устарело уже завтра. И мы не можем быть уверены, что новые технологии сразу, мгновенно заработают хорошо, что к качеству их работы не будет вопросов. Так и ИИ – пока что генеративные модели выдают всего лишь вероятностные, а не точные ответы – это надо учитывать и минимизировать применение ИИ в образовании.
О маркировке ИИ-контента
Маркировка контента, созданного с помощью ИИ, необходима. Человек должен понимать, что он имеет дело со сгенерированным контентом.
Нужно ли вкладываться в развитие генеративного ИИ в России?
По генеративным моделям мы стоим на перроне, а поезд ушел и мчится на всех парах. Китайцы успели запрыгнуть в последний вагон. У нас шансов нет. Нам нужны асимметричные ответы. Как когда-то сделали гиперзвук — никто не понял, как перескочили, а технология есть. Бежать по рельсам за уходящим поездом бесполезно.
Про восстание машин
Восстание машин нереалистично. У технологии нет воли — ее имеет только человек. Поэтому бояться нужно не восстания машин и ИИ, а злых людей, которые используют технологии в злонамеренных целях.
Деглобализация в ИТ
Сейчас в мире идет тренд на деглобализацию ИТ. Один из примеров — развитие национальных мессенджеров. Ряд стран пытается построить свой сегмент в ИТ, где хотя бы в некоторой степени можно было бы «спрятаться» от глобального доминирования крупнейших ИТ-корпораций. Вопрос в том, насколько глубоко можно отстроиться от «большого брата» и насколько широко разойдется тренд — это очень дорого. И как раз для России здесь есть хороший шанс — наш опыт может быть полезен для дружественных стран, которые задумываются о собственном цифровом суверенитете. Мы можем собрать стек технологий для небольшой страны, была бы на это политическая воля.
Про цифровой суверенитет
Что касается самого цифрового суверенитета, если понимать под ним связь и ПО — задача по его обеспечению реалистичная. В России есть свои браузеры, поисковики, платежные системы, банковские приложения. Использовать зарубежные технологии — это большой риск. Потому что технологии принадлежат тем, кто их разработал, в данном случае – США.
Если же под цифровым суверенитетом понимать весь спектр ИТ — это нереалистично ни к 2030 году, ни в обозримой перспективе. Основа любых ИТ — процессор. У нас компьютеры, смартфоны, маршрутизаторы, вышки связи — все иностранное. Даже если мы что-то заменим своим, внутри — иностранный процессор, в который можно заложить любую «закладку».
У нас много умных людей. Мы можем делать прорывные вещи. Надо просто не бояться и искать необходимые решения.