Мне страшновато за будущее. Сейчас много где видишь уже не «Окей, Google» (команда предназначена для вызова Google-ассистента). Если «Окей, Google» хотя бы выдаёт список ссылок, в которые нужно вникнуть, то тут выдаётся ответ, который никто не проверяет…Ужас ситуации в том, что нас всех отучили от критического восприятия, мышления и приучили к тому, что нейросеть подхалимничает, говоря: «Какие вы молодцы!», при этом обманывая. Я слышал от учёных, что, когда они задают вопрос ИИ по своей теме, то он присылает им ссылки на якобы их же статьи, но они их никогда не писали.
Сергей Михеев: Да, ИИ выдумывает – это признанное явление, которое заключается в том, что для обоснования правдивости своего ответа программа начинает выдумывать несуществующие данные (статьи, публикации, термины и др.). Кто будет проверять? В большинстве случаев никто.
Всё, к лене человеческой, основным порокам и тщеславию и происходит.
Сергей Михеев: Действительно, в итоге всё замыкается на свойстве конкретной человеческой личности. Человек любит, когда ему льстят, подыгрывают, хвалят. Если он теряет способность критично себя оценивать, ленится, не нужно ни творчество, ни труд и вообще ничего, то так и происходит. Конкретный обыватель может сказать: «Мне на всё наплевать: надо получить «пятёрку»; повесить лапшу на уши начальнику; заработать денег. Я ничего не хочу». Можно сказать, что у него есть своя маленькая, немножко мерзкая, но обывательская правда. Но это вопрос не про обывателя, а про государство, элиту общества; про то, как эта элита (если она есть) видит цели развития. Если элита соглашается подменять реальность имитацией, то это самое ужасное. Говорю общими словами, но, в первую очередь, апеллирую к тому, что нам нужна самобытная ответственная стратегия развития.
Слушатель пишет по поводу того, что искусственному интеллекту всё выдают. Висит новость, что «сегодня был самый массированный, ужасающий …»
Сергей Михеев: Я уже сколько раз видел, что «это самый массированный…»А когда попали по Московскому НПЗ, что и вызвало проблемы с бензином, которые решаются, но пока не решены, я видел новость, что именно тогда был самый массированный налёт и сбито чуть ли не 900 БПЛА. Я не исключаю, что здесь есть манипуляция, которая может быть результатом работы алгоритмов.
Все эти новости потихоньку сводятся к картинкам-демотиваторам с цитатами великих людей.
Сергей Михеев: Насчёт демотиваторов: идёт война, и нам не нужны те вещи, которые демотивируют собственное население и склоняют общественное мнение не в ту сторону. Этими вещами нужно заниматься в ручном режиме, а не доверять алгоритмам. По православной теме я вижу огромное количество выдуманных высказываний. Например, «такой-то святой сказал…» Начинаю проверять - ничего такого он не говорил! Или слова переставлены местами, или вообще святого такого не было и нет. И этой чушью переполнены все сети, весь Интернет! Как это преодолеть? Надо иметь собственные знания, но их иметь труднее, потому что надо приложить усилия, старания, потратить время.
Например, «мошенники придумали новую схему». Достаточно сделать один запрос в поисковике - и всё рассыпается. Можно даже и не делать запрос, а опереться на здравый смысл. Сейчас о знаниях даже и говорить не нужно, а надо говорить о привычке проверять информацию. Если знакомый вам персонаж что-то говорит, то всегда необходимо первым делом перепроверять.
Сергей Михеев: В чём я вижу риски развития этих технологий? В том, что мы погружаемся в эпоху тотальной лжи. Когда большинству людей будет сложно отличить ложь от правды просто потому, что они потеряли привычку к здравому смыслу. Вся эта информационная среда создана так, что она снижает уровень критичности к любому явлению: «Если есть красивая картинка, то я уже этому верю», «Если это резонирует с моими эмоциями, то я верю». Когда спрашивают: «Как этого избежать?» Избежать можно только одним способом: быть личностью, иметь собственные знания, проверенные опытом действия, не доверять с ходу каким-то вещам. С одной стороны, это стало сложнее, потому что есть очень умелая подделка; с другой стороны, отчасти это даже легче. Почему? Раньше мошенники вас подхватывали на улице или приходили к вам в квартиру, вы находились в ситуации личного контакта, и это всегда тяжелее; а когда вас «разводят» по телефону, то у вас есть фора по времени: вы можете взять паузу и проверить - вас никто не держит за руку, никто не берёт в оборот. Но, к сожалению, большинство людей не имеют привычки к этому. Вся эта массовая культура, связанная с мобильным телефоном и Интернетом, провоцирует вас к моментальной реакции: «Быстрее нажми на это – заканчиваются скидки!» Даже там, где нет мошенников, рекламная среда постоянно провоцирует человека на эмоцию и на быстрые действия. Это снижает критичное восприятие, потому что прежде чем подумать, надо нажать на кнопку.