В студии День ТВ беседуют двое: специалист по искусственному интеллекту писатель Игорь Шнуренко, и писатель Александр Никонов. Мы видим два взгляда на цифровое будущее человека, и они кардинально разные. Какой взгляд верен – время покажет, а нам сейчас предстоит самим разобраться, что для нас будет благо, а что худо.
Игорь Шнуренко: В оцифровке я вижу не только положительные стороны, но и отрицательные. Главное в том, как это проводится в России. Во-первых, мы попадаем под власть американских цифровых платформ, поскольку изначально работаем на базе Microsoft . Основными компаниями в развитии цифровых технологий у нас являются Сбербанк, Яндекс и другие организации. Они просто русифицируют разработки американских фирм.
- Почему-то никто не задумывается над тем, что та же Microsoft активно сотрудничает с Пентагоном и американскими спецслужбами. Стандарты для своих программ они тоже пишут сами, мы в этом не принимаем никакого участия. И получается, что вся наша экономика ляжет на американские платформы. Есть и другие риски и вообще, я считаю, что все эти технологии идут не по тому пути.
Александр Никонов: Честно говоря, я в данном случае ничего не понял, но уловил две интересные вещи. Первое, это фамилия Грефа, который всё это продвигает. Да он просто святой человек и ничего плохого не предложит. И второе. Я услышал, что искусственный интеллект будет писать романы. Может и напишет, но кто их будет читать, потому что ИИ не может чувствовать и ощущать. Он не обладает сознанием как таковым.
- Но я хочу сказать о тех опасениях, которые часто выдвигаются. Что, к примеру, страшного в цифровизации. Скажем у меня целая гора бумажных документов, даже с юности остались, зачем они мне все, если их можно объединить в цифре. Почему-то боятся оцифровки человека, чипов каких-то. Да они совсем ненужны. Я зашёл в магазин, накупил себе корзину продуктов и вышел. На всех товарах есть коды, всё суммируется и списывается с моего счета. Я ничего никуда не прикладываю, лицо своё не скрываю, вошёл – вышел, всё определили по лицу, сколько затратил.
Разве это плохо. Совсем нет, это очень удобно и комфортно. Для человека такие технологии, они предопределены и прежде всего тем, что мы все любим приятные и хорошие ощущения, любим самок, всё это заложено в нашей обезьяньей сущности. Цифровизация даёт нам комфорт и прекраснейшее развитие.
ИШ: Всё это хорошо, но боюсь вас огорчить, причём во многих отношениях. Во-первых, кто вам сказал, что система работает на ваш комфорт, её цель – прибыль. И, во-вторых, есть много заблуждений среди того, что вы сказали, наверное, по незнанию. Вы даже не представляете, как работает система DJI , о которой я упомянул. Она уже сама может писать программы, которые сейчас создают программисты.
- Более того, уже наши, российские русифицированные версии поднялись на очень высокий уровень, Сбербанк не зря их освоил. Они действительно способны написать романы. Я даже уверен, что нейросеть сможет написать нам романы не хуже, чем пишет Донцова, но вот с Толстым не справится, пожалуй.
Кроме того нейросеть в реальном режиме времени анализирует вкусы публики, и создаёт произведения исходя из этих вкусов. Человеческий труд пока используется, но фактически, уже сейчас они пишут сценарии к произведениям и делают фильмы.
- Вот вы сказали про удобства, а разработки искусственного интеллекта настроены, прежде всего, на создание системы слежки, полного контроля и управления. Это мы как никогда за прошедший год ощутили в полной мере. И кто вам сказал, что это используется для вашего удобства?
- Управляющий одной из таких компаний сказал, что им нужно знать тайных демонов, которые управляют людьми. То есть, нейросеть будет знать о ваших тайных пристрастиях, и сама подкинет вам то, что будет стимулировать эту вашу страсть или привязанность. Именно за счёт этого вами можно будет управлять и манипулировать. Вас будут искусственно побуждать делать то, или иное действие.
Эти технологии уже опробованы на протяжении последних десятилетий. Ставятся опыты по социальному и эмоциональному заражению и это всё известно. Нейросети считывают эмоции человека, как раз с его лица, и соответствующим образом обрабатывают и истолковывают в режиме реального времени. Всё это делает робот – ИИ.
АИ : Да, уж. Вы тоже много чего нагородили. Про эмоции я сказал немного по-другому. Роботы не могут испытывать эти эмоции, а только изображать. И то, что мне система подбрасывает что-то по моим запросам, так это и хорошо, очень удобно, мне не нужно того, что я не хочу. По сути, система исполняет роль моего секретаря, и я говорю ей за это спасибо. Если мне это удобно, почему нет?
Романы, это тоже хорошо, но я жду другого, когда вся научная информация, загруженная в сеть, будет обрабатываться квантовыми компьютерами и уже не люди гениальные, а сама система будет сводить всё это воедино и выдавать нам на-гора все эти законы природы, которые раньше люди открывали сами. Это будет удобнее.
- И касательно эмоций, которые мне якобы навязывают, если я испытываю эмоцию, значит это и есть моя реальность. Вы можете говорить про навязывание эмоционального состояния, но поскольку я это испытываю, то это моё. И мне совершенно наплевать, моя нейросистема воспроизвела эту эмоцию для меня, как для наблюдателя, или кто-то эту эмоцию выработал и преподнёс. Мне совершенно все равно, потому что это неотличимо, это тождественно.
- Вы ещё сказали, что эти системы капитализируются и работают для прибыли, но ведь эту прибыль для системы обеспечиваю я. Получается, что они работают на меня, это я им плачу деньгами и вниманием, это я и король и хозяин, это ко мне они бегут и предлагают нужное мне...
Беседа затянулась, поскольку тема очень серьёзная и большая, поэтому вынуждена её ограничить. Сейчас каждый из нас будет думать – впускать нейросети в свою личную жизнь или как-то учиться защищаться от них, несмотря на то, что они уже запустили свои щупальца в наши дома.
Следите за моими публикациями. Беседу этих двух писателей в дальнейшем продолжу, а сейчас я жду отзывов и комментариев от моих подписчиков и читателей. Что вы думаете друзья о цифровизации человека?