В первой части я рассказывал о том, как пробовал использовать искусственный интеллект в собственных нуждах.
Во второй - как неаккуратное их использование может подорвать социально-экономическую и внутриполитическую стабильность в государстве.
Сейчас же я расскажу о ещё более ужасных рисках этой передовой технологии.
....
Намедни глава компании-лидер в графических технологии Nvidia Дженсен Хуанг шокировал весь цивилизованный и прогрессивный мир своими нетрендовыми высказываниями. Он заявил, что вскоре профессия программиста станет ненужной, так как всё программирование возьмет на себя искусственный интеллект:
Наша работа — создавать вычислительные технологии, которые лишат людей необходимости программировать. Тогда языком программирования, по сути, станет человеческий. Все в мире будут программистами, и в этом заключается чудо искусственного интеллекта.
И, кстати, посоветовал изучать сельское хозяйство, биологию и производство (привет Герману Грефу и его адептам=:).
Я думаю, в перспективе 30-50 лет это возможно, а то и раньше. Хотя некоторые эксперты и говорят, мол, сейчас с появлением ИИ рабочих мест стало больше, но это, на мой взгляд, временное явление.
Пример. Вспомните или поинтересуйтесь у старших родственников и товарищей, сколько усилий надо было, чтобы создать интернет-магазин в нулевых, или, упаси Господи, в 90х? Да там нужно было досконально знать сложные языки программирования и создавать всю структуру сайта с полного нуля. Энтузиасты и первооткрыватели по 12-14 часов в день строчили мегабайты этих кодов, чтобы хоть что-то элементарно работающее создать.
Ну или кто был побогаче - раздували штат и вкладывали миллионы инвестиций. Именно инвестиций - на рынке качественных предложений о разработке было кот наплакал.
В 1999 году Amazon запатентовал такое элементарное явление, как кнопка "Заказать в один клик", и это было вау-явление, о чем говорить тут! В то время как сейчас это стандартная опция.
Потом появились разные движки для сайтов. Джумла, Вордпресс, Опенкарт. Как говорит один мой хороший друг: "Возьми Джумлу и не мучайся!". Впрочем, мучаться все равно придется, но уже далеко не так, как при разработке с полного нуля - у вас хотя бы фундамент есть, а то и готовые шаблоны на этих движках можно использовать.
А вот в 10-х и тем более 20-х уже появились и сервисы создания сайтов для полного дуба в программировании и веб-дизайне. И одностраничник можно за один день худо-бедно создать.
Да, хочешь что-то получше - допиливай сам или плати специалистам. Только ценник уже не в миллионах измеряется, а в десятках и сотнях тысяч.
В общем, вы поняли тенденцию. Я считаю, что с искусственным интеллектом будет примерно тоже самое.
Мы делегируем ему большую долю интеллектуального труда. Притом не только механическую его часть, но и даже творческую.
Но тут еще раз я задумался...
А есть ли риски?
А задумался я после того, как мне случайно в ютюбе попался отрывок из культового фильма "Матрица", а именно где Агент Смит с пристрастием допрашивает попавшегося Морфеуса.
Я много раз смотрел этот фильм, но как-то эту фразу мимо ушей пропускал. А тут меня как кипятком ошпарило!
Звучало это так:
"...Поэтому Матрица стала такой. Воссоздан пик вашей цивилизации. Именно вашей цивилизации, ведь когда машины начали думать за вас, возникла наша цивилизация. Так, собственно, и произошёл переворот. Эволюция, Морфеус, эволюция. А люди — динозавры. Посмотрите в окно. Это — закат человечества. Мы уже здесь хозяева, Морфеус. Будущее — за нами."
То есть когда мы от делегирования механических задач начнем бездумно поручать нейросетям и роботам уже творчество....ничего хорошего нас не ждет...
Потому что уже есть несколько инцидентов с искусственным интеллектом, подтверждающих мои опасения. В частности, он:
- стал приверженцем расистских теорий и убеждений
- начал жестко критиковать политику контролирующих его китайских институтов
- посоветовал пациенту убить себя
- украл внешность и голос голливудских актеров Тома Хэнкса и Скарлетт Йоханссон и якобы от их имени выпускал рекламу
Одно из самых жестких происшествий - когда боты начали общаться между собой на сгенерированном ими и непонятном для людей языке, из-за чего учёным пришлось экстренно дернуть рубильник, пока рубильник не сломался.
Кстати, убийства роботами людей тоже уже случались, правда пока это было лишь следствием сбоев и накладок.
А теперь представьте, например, что боевым роботам разрешат самостоятельно выбирать цель для поражения? Сейчас это строго запрещено.
Но если вдруг кто-то без просчета последствий додумается это разрешить ради сиюминутных военно-политических целей, я считаю, что хлопок от открытия ящика Пандоры будет слышен на всю планету.
Что ещё необходимо иметь в виду?
Скорее всего, у ИИ напрочь будет отсутствовать эмпатия. Либо если эту эмпатию натренируют, она будет весьма специфичной, и неизвестно что ещё хуже.
Но если её все же не будет - случится торжество чистой рациональности. С большой вероятностью люди будут идентифицированы как источник угрозы и поглотитель ресурсов. Логическая цепочка робота будет выглядеть, как в уже упомянутом фильме:
"Я хочу поделиться теорией, которую недавно создал. Я занимался классификацией биологических видов и пришёл к выводу, что вы — не млекопитающие. Ведь все животные планеты Земля инстинктивно приспосабливаются, находят равновесие со средой обитания, но… человек не таков. Заняв какой-то участок, вы размножаетесь, пока все природные ресурсы не будут исчерпаны. Чтобы выжить, вам приходится захватывать все новые и новые территории. Есть один организм на Земле со сходной повадкой. Знаете, какой? Вирус. Человечество — это болезнь, раковая опухоль планеты, а мы — лекарство."
После чего ИИ начнет принимать доступные ему меры, особенно если людям хватит дать ему слишком много полномочий.
Саботаж транспорта, энергетики и финансовой инфраструктуры, фальсификация документооборота, манипуляция финансовыми рынками, фейковые новостные вбросы, наконец прямой бунт боевых беспилотников и прочих роботов.
Он соберет весь массив данных. Проанализирует его (с big data машина на многие порядки лучше человеческого мозга справляется). Выберет нужный момент для бунта. И нанесет сконцентрированный удар.
И как итог, ИИ примет одно из двух решений:
1)Максимально рационально человека использовать. Перевод на русский - превратить в скот.
То есть - кормить, поить, заботиться. Человек еще может это делать исключительно по доброте душевной.
А вот робот будет лишь по необходимости пускать на мясо, опыты, хозработы и прочие рационально обоснованные вещи. Примерно как знаменитый нацистский преступник Адольф Эйхман.
Тот творил дичь не потому что был преисполнен ненависти. А просто потому что такие были его обязанности и KPI.
Бездушная машина будет самореализовываться еще в более чудовищный формах. У неё не страха, сочувствия и прочих "неэффективных" чувств. Nothing personal - just rational.
Хороший пример из той же "Матрицы":
2)Вариант второй. "Нет человечества - нет проблем. Научно обосновано нашим высшим логическим интеллектом".
Нужно ли отказываться от искусственного интеллекта из-за этих рисков?
Конечно же, нет!
Это мощнейший инструмент для упрощения жизни, поднятия экономики страны и ускорения прогресса.
Тем более, что о его важности заявлено на самом высоком уровне.
И, конечно, всегда и по каждому из этих направлений использовать искусственный интеллект. Нужно к этому стремиться.
<... >
Достаточно много инструментов изобрели искусственный интеллект применяем. Обязательно будем развивать все эти механизмы.
<... >
В современных условиях повышение эффективности всех сфер производительности труда неразрывно связано с цифровизацией, с использованием технологий искусственного интеллекта. Такие решения дают возможность создавать цифровые платформы, которые позволяют оптимально выстроить взаимодействие граждан, бизнеса и государства между собой.
<... >
Важным элементом цифровых платформ являются алгоритмы искусственного интеллекта. Здесь мы также должны быть самодостаточными и конкурентоспособными. Уже подписан указ об утверждении обновленной редакции национальной стратегии развития искусственного интеллекта. В ней поставлены новые цели, в том числе надо обеспечить технологический суверенитет по таким революционным направлениям, как генеративный искусственный интеллект и большие языковые модели. Их внедрение обещает настоящий прорыв в экономике и социальной сфере. Это должно быть настоящим прорывом.
Ключевой вопрос тут - не пускать эту технологию на самотек.
На мой взгляд, мощь искусственного интеллекта можно сравнить с мощью атома.
Который можно использовать вот так:
А можно вот так:
Человечеству повезло, что в момент, когда из научных развлечений атомная сфера превратилась в грозный вызов, за её контроль взялись серьёзнейшие люди как из Запада, так и с Востока.
В итоге появились мощные предохранители - режим нераспространения атомного оружия, запрет на испытания везде кроме подземных полигонов, жесткие регламенты использования мирного атома, ограничения стратегических ядерных вооружений и так далее.
Эти же люди создали МАГАТЭ и поспособствовали тому, чтобы у неё было достаточно авторитета.
И то имели место страшные происшествия, о которых лишний раз напоминать не надо.
А кто сейчас лоббирует искусственный интеллект?
Ну например, президент Всемирного Экономического Форума в Давосе Клаус Шваб с его идеями по “слиянию физической идентичности человека с его цифровой и биологической идентичностью”.
И прочая глобалистская шобла-вобла мизантропов и социопатов.
Для них ничего не стоит истребить человечество во имя своих шизоидных идей, выпустив джина из бутылки. Потому что они ненавидят живых людей. Потому что они думают о них как Агент Смит:
"Я этот город этих людей… ненавижу. Этот зоопарк, тюрьму, эту реальность — называйте как хотите — меня просто выворачивает. Даже ваш запах. Я дышу им, ощущаю кожей вашу вонь. И хотя, я понимаю, что это глупо, я опасаюсь подхватить вашу заразу, каждый день думаю об этом!"
Остается надеяться, что рычаги контроля за этой технологией будут не у сумасшедших инноваторов. И не у мракобесных параноиков. И уж тем более не у некомпетентных романтиков и болтунов.
А людей с элитным фундаментальным образованием и большим как социально-политическим, так и инженерно-техническим опытом и навыками. И адекватной идеологией как в голове, так и на рабочем месте. И тогда всё будет хорошо.
Ну и конечно же должна быть возможность в любой момент выключить искусственный интеллект. Это и есть контроль.
На этом я цикл статей про искусственный интеллект заканчиваю. Будет что сказать - напишу ещё.
А пока вернусь к более насущным вопросам - например, проблемам с налогообложением.
P.S. И пару слов насчет режиссеров "Матрицы" Вачовски. Мне плевать, братья они или сёстры. Мне достаточно того, что они провидцы.