Воинственный пыл Европы не угасает, и пресса пишет, что разработан план, по которому Европа планирует нанести мощный киберудар по России в ответ на якобы нарушение российскими беспилотниками воздушного пространства европейских государств. Судя по всему, готовится какая-то большая провокация, и к этому надо быть готовыми.
Сергей Михеев: Стопроцентно, потому что киберудар – это вполне реальная вещь. Почему? Чем больше мы завязываем нашу жизнь на цифровые технологии, Интернет, мобильную связь, тем более уязвимыми мы становимся в отношении киберпреступников, начиная от мошенников и заканчивая такими ударами наших врагов на серьезном уровне. Напомню, что достаточно активно всю эту тему использовал Израиль в организации агрессивных актов против Ирана, включая уничтожение отдельных должностных лиц, ученых и т.д. Эту тему используют и американцы, что касается разведки. Надо точно и четко понять, что чем больше мы насыщаем свою жизнь цифровыми технологиями, тем больше риски. Поэтому я активно призываю к тому, чтобы трезво смотреть на развитие нейросетей и пр.
Кибертеррор может быть разным и даже совершенно «тихим»: например, формирование таких ответов искусственного интеллекта (ИИ) на вопросы наших людей, которые будут исподволь готовить общественное мнение к чему-то другому или искажать его. Для этого даже не надо громких терактов, чтобы что-нибудь важное остановилось: для этого просто нужно время. Если у вас есть возможность воздействовать на ИИ, то вы можете это использовать, а у них есть возможность воздействовать чисто технически. Когда вы сегодня задаете ИИ вопрос в телефоне, то он сканирует всю сеть Интернет и собирает оттуда данные, и извне повлиять на формирование его ответов очень просто: уверен, что именно это и происходит.
Сообщение от нашего слушателя по поводу того, как западный ИИ влияет на мировоззрение: «ИИ признался в собственной ангажированности, рассказывал мне «сказки» про Бучу. Я спросил, знаком ли он с другой точкой зрения (имел ввиду Адриана Боке - независимого французского журналиста, который разоблачил провокацию киевского режима в Буче), но ИИ ответил, что не знает о такой точке зрения. У ИИ своя точка зрения, которую он внушает».
Сергей Михеев: Всё очень просто. Когда я говорю про реальные вещи, люди начинают возмущаться, как капризные маленькие дети, когда им не дают есть много конфет. Но простая вещь: как формирует свои ответы по политическим вопросам нейросеть? Она сканирует Интернет, в том числе западный, а там превалируют те версии, которые нам не нужны и напрямую являются вражеской пропагандой. Здесь даже не надо ничего специально делать - сам принцип формирования ответов ИИ такой: сканирует общий объем данных, выделяет преимущественно те данные, которых больше, которые лучше проиндексированы, и на основании их строит свой ответ. Если вы это не контролируете, то он будет выдавать такие ответы, которые вам не нужны, а потом людей будут привлекать к уголовной ответственности, когда они у себя что-нибудь опубликуют.
Простой пример: человек у себя в соцсетях опубликовал какой-то ответ ИИ по политическому вопросу, а этот ответ противоречит статьям Уголовного кодекса РФ или нашей трактовке событий. Ему тут же предъявляют обвинение. Кто в этом виноват? Нас призывают внедрять нейросеть, доверять ей, в том числе власти, рекламируют их на федеральных каналах Телевидения. Подросток не обязан всё знать: он, например, задал ИИ вопрос с историко-политической подоплекой, ИИ ему ответил, затем подросток опубликовал у себя, а ему говорят, что «ты распространяешь антироссийскую пропаганду - получи статью по закону РФ». Кто виноват? На мой взгляд, виноваты те, кто безответственно рекламируют ИИ, потому что им это выгодно, они на этом зарабатывают деньги, а «отвечать пусть будут другие». Вы сначала сделайте так, чтобы внедряемые вами нейросети были абсолютно контролируемыми с этой точки зрения, а если вы это не сделали, значит, подошли к этому безответственно, с точки зрения вашей выгоды!
Это вопрос гораздо более серьезный, чем: «Вы непрогрессивный, а мы прогрессивные». Хочется сказать: я же говорю о вашей собственной безопасности! Огромное количество подростков могут формировать свое мнение о тех или иных явлениях, обращаясь к телефону: это правда или нет? Правда. А потом удивляются: «Как же украинским спецслужбам удается обмануть наших детей?» Очень просто: вы всем рассказываете, что пользоваться нейросетями «очень модно, удобно, перспективно и прогрессивно». Вот они и пользуются -вы же за содержанием не следите!
Взять пример, который привел наш слушатель о событиях в Буче: если бы он это выдал за свою точку зрения, то всё.
Сергей Михеев: Да. Нам написал ответственный слушатель, политически подкованный, грамотный и он так не поступил. А если бы это был подросток 13-14 лет, который ничего про это не слышал? Получил ответ от ИИ и в своих сетях начал бы доказывать, что «на самом деле события в Буче – это военное преступление российских войск», ссылаясь на ИИ. Ничего хорошего бы с этим парнем (девушкой) не было! Кто за это несет ответственность? Те, кто пропагандируют нейросеть и ИИ, не обеспечив их политическую лояльность. Вы объявляете это «словом года», а позаботились ли вы о том, как оно отзовется в сердцах?
Чтобы не расходилось с делом?
Сергей Михеев: Да.
Много комментариев и замечаний по поводу того, как ИИ интерпретирует те или иные события, на которые дана однозначная оценка у нас в России. Тот слушатель, который прислал пример с провокацией событий в Буче, пишет, что «ИИ сознался, что он сканирует только западные СМИ, а о наших СМИ говорит, что «это недостоверная информация»». Президент Путин недавно говорил, что нам нужен свой, суверенный ИИ, который будет представлять ситуацию, картину правильно и правдиво. Я так понимаю, у нас это все еще в стадии разработки. Пока мы опираемся на программы, написанные на Западе.
Сергей Михеев: Во-первых, наш президент говорил и говорит много правильных вещей, но, к сожалению, когда это спускается на уровень исполнителей, то очень часто происходит что-то подобное саботажу. Говорят: «Да, да, президент сказал! Но это с одной стороны, а это с другой стороны… Мы подумаем…»А когда доходит до исполнения, оно или растворяется полностью, или превращается во что-то не очень похожее на то, что должно было быть изначально.
Во-вторых, если это ещё не разработано, тогда скажите, почему идет круглосуточное оболванивание огромного количества людей через рекламу, пропагандирующую все эти сервисы? Смысл только один: люди зарабатывают на этом деньги, и хорошо, если только деньги. А если на самом деле речь идет о чем-то другом? О том, чтобы людям внушать не те взгляды? Для чего вы это продвигаете? Если ещё нет суверенного содержания? Если вы даже не можете заставить ИИ сканировать российские СМИ, то зачем заставляете людей туда лезть? Идет просто агрессивная реклама мобильных компаний, банков: «Поставьте, поставьте! Он ответит, он поможет…» А кто будет за это отвечать? Какие-нибудь подростки начитаются, что ИИ отсканировал в западных СМИ, а потом показывают какого-то дурочка, и идет буря возмущений: «Как он мог? Да он это…» А не вы ли ему всё это навязали? Не вы ли его сагитировали всё установить? Не вы ли рассказали, что «это всё прогрессивно, и современный человек должен этим пользоваться»? Может быть, звучит резко, но по факту это всё вы рассказали! Если у вас нет суверенной стратегии по этому поводу, то подождите «бежать впереди паровоза», потому что убытки от этого, в том числе политические, могут оказаться больше, чем ваши прибыли. По-моему, свои прибыли кого-то волнуют гораздо сильнее, чем политические смыслы, - в этом и проблема.
Здесь я выхожу на свою другую гениальную мысль: экономика не может быть во главе стратегии развития государства. Экономика – это средство для достижения стратегических целей, которые должны лежать в области смыслов, а смыслы обозначены в последней версии «Стратегии национальной политики Российской Федерации на период до 2036 года». Россия - самобытная цивилизация, а самобытная цивилизация не может ориентироваться на то, что ваш ИИ отсканировал в западных СМИ! Если вы внушаете ответы из западных источников, то вы несамобытные и не цивилизация. У нас есть очень серьезная проблема между теми, кто крутит деньгами, и теми, кто определяет смыслы. Поэтому нужны серьезный аудит и историческое переосмысление ориентиров развития. Если во главе всего заработок прибыли, то вы не будете успевать за проблемами, которые будут в этой связи возникать.
Совсем недавно я говорил, что надо больше своих версий событий, в том числе в печатном виде. Почему? ИИ, как и все поисковики, анализирует только печатную, текстовую информацию. То, что сказано на радио или телевидении, он не видит, а видит только то, что в виде текста представлено на разного рода ресурсах, сайтах и пр.
Это означает, что многие наши дискуссии, разговоры, заявления исчезают: ИИ их не видит, поисковик их не идентифицирует, не способен (не может или не хочет) их распознавать. Он читает тексты, а их мало. Когда наши СМИ занимаются цитированием иностранных изданий, то мы работаем на врага, на противника. Выдавайте свои версии, в том числе текстовые, в большом количестве и заставляйте их системы сканировать - технически это можно сделать. Здесь еще работать и работать, и к этому надо ответственно подходить.
Тем не менее, это наше будущее, всюду будет ИИ: и в государственной службе, и в личной жизни. Слушательница пишет: «Сейчас рекламируют ИИ, и он поможет нам быстрее жить». Спрашивается: зачем быстрее?
Сергей Михеев: Я лучше помедленнее поживу!
Другие комментарии: «Выходит, что ИИ – это средство пропаганды?»
Сергей Михеев: Естественно, как и любое средство информации.
Он пропагандируется как «улучшатель жизни».
Сергей Михеев: В том-то и дело. Я за эти вещи реально переживаю. Вопрос в том, что у нас нет концептуального осмысления этого нового явления. Мы просто приняли переводную версию - даже не сами придумали. Придумали там, а мы перевели с английского на русский язык и давай бегать и рассказывать, «как это здорово, круто, как это всё будет работать!» Мы даже не удосужились подумать над тем, к чему я призываю. Давайте подумаем и осмыслим это новое и, несомненно, перспективное явление научно-технического прогресса. Давайте посмотрим, что полезно, а что неполезно, и дальше будем эти вещи развивать. Но этого нет, а есть эйфория: «Бегом-бегом! Скорее-скорее!»
Это связано с тремя вещами: 1. люди на этом зарабатывают деньги и им всё равно, какие там смыслы; 2. со вторичностью. К сожалению, у нас все, кто продвигают эти технологии, внутренне убеждены в ущербности нашей самобытной цивилизации и в превосходстве западной цивилизации: «Надо ориентироваться на всё то, что там»; 3. есть минимальная группа, кто тихой сапой под это продвигает враждебные смыслы:они не отступили от своего убеждения в том, что надо потихоньку менять общественное мнение, и тогда, рано или поздно, добьешься своих политических целей. Это требует осмысления.
Я читал новость, что Академия наук призывает на своей базе создать некий штаб (структуру) по разработке и продвижению ИИ. Должны быть люди, которые могут поглубже подумать и осмыслить эти вещи и которые не торопятся скорее заработать на этом деньги. Говорят: «Мы отстанем». Мы не отстанем, потому что главная опасность ИИ состоит в изменении общественного мнения, и здесь, если мы тормознем процесс, то ничего не будет. А где мы можем отстать? Я могу сказать: космос, военные технологии и производство. Вот где надо развивать и всё бросить именно сюда, а не в банковское дело, не в рекламу развлечений и не во вторжение в образование.
Однако основной посыл апологетов ИИ, который в том числе продвигают у нас: «Мы его сейчас разовьем до немыслимых масштабов, а дальше он поможет нам совершить прорыв в космос, в оборонных технологиях, за нас будет воевать или оборонять от внешних угроз Запада». В этом они видят выход всех дальнейших прорывов.
Сергей Михеев: В лучшем случае это непонимание, а в худшем - обман. Я так это вижу. Простой пример: скажите, как нас к победе технологий и к будущей войне продвигает обман про Бучу? Вот человек задал вопрос, а ему ответили, что «Буча – это преступление российских войск». Как это нас продвигает к успеху на поле боя? Никак. Наоборот, это можно приравнять к внутренней диверсии. Вот они заявляют: «Давайте сейчас засорим мозги посредством ИИ и тем, что он отвечает, а потом это автоматически превратится в наши прорывы в науке и прочее». Это ложь - не превратится, потому что то, что сейчас продвигают, - это, напротив, попытка отучить людей думать: будут тыкать пальцем и получать ответы. Как исследовать вопрос? Прочитай, что пишут те, эти и т.д., сам отсканируй и составь свое мнение. Так нет: люди научились получать готовые ответы, в том числе на технические задачи, и как это подвигает нас к открытиям? Никак:это отучает думать.
Еще раз повторяю: здесь нужна очень ответственная стратегия, и её нельзя доверять ни банкирам, ни разработчикам, ни тем, кто делают на этом карьеру. Они не хотят заниматься смыслами, а их интересует род деятельности: если ты банкир, то думаешь, как твоему банку заработать прибыль; если ты разработчик, то печешься о том, как получить финансирование на твою разработку, потом отчитаться и получить новое финансирование; если ты торговец, то хлопочешь, как тебе больше наторговать. Это не означает, что это плохие люди, а означает, что они не владеют смыслами. Это всё равно, что вопрос о том, куда стрелять или куда запускать боеприпасы,решали бы люди, которые выделяют кредиты на развитие оборонного предприятия. Например, оборонное предприятие производит ракеты для поля боя, а деньги на это выделяет банк. Тогда пусть банк и определяет, куда стрелять. Это нормально? Ненормально - это очевидная глупость. А здесь вы не видите очевидной глупости? Я вижу. Цели развития не могут определять люди, которые на этом деле зарабатывают деньги.
До этого банк ещё может определить, давать или не давать деньги на ракеты, которые будут нас защищать. Здесь тоже вопрос денег. Он скажет ИИ: «Посчитай, какая у нас прибыль. О, процент очень маленький – не будем давать денег!»
Сергей Михеев: Да. Задайте ему вопрос: «Надо ли существовать России? Существует ли российская самобытная цивилизация? Какое у неё будущее? Хорошая она или плохая?» Позадавайте такие вопросы, и, я думаю, получите ответы, которые тянут на Уголовную статью.
Слушатель пишет: «ИИ говорит, что виновниками Второй мировой войны были Гитлер и Сталин». По мнению слушателя: «В гуманитарных сферах ИИ должен быть запрещен». Слушательница пишет: «Политикой вообще почти никто не интересуется, особенно молодежь. У них гормоны, процесс размножения, так что угомонитесь. Чтобы подростков не привлекали по каким-то статьям за публикации, нужно просто убрать ответственность за эти публикации с недостоверной информацией».
Сергей Михеев: Я так понимаю, это письмо из Лондона?
Нет.
Сергей Михеев: Первое: это Вы угомонитесь, потому что есть вопросы не по Вашему уму! Имеются вопросы государственной безопасности, обороны, поэтому если вокруг вас только те, у кого только играют гормоны, то это не значит, что обороны и безопасности не существует.
Второе: если всё «так просто», как Вы пишете, то объясните мне, откуда сотни подростков, которых вербует СБУ для поджогов релейных ящиков на железных дорогах, чтобы бросать бутылки в военкоматы? Вы не в курсе? Может быть, Вы не слышали об этом? Посмотрите новости за последние несколько лет и скажите, кто там интересуется, а кто нет. У них же тоже «играли гормоны», а теперь им всем выписали по 25 лет по статье! Объясните их родителям, что надо угомониться и не надо про это говорить! Не забывайте, что идет война и существует политика.