Ну что ж, продолжим наши эскапады... И начну я с того, что не я один готов увидеть ИИ как Антихриста - см, например, https://proza.ru/2021/01/07/2007
Но может быть всё ещё не так пессимистично - я тут, анализируя по работе стратегии развития ИИ в разных странах, порадовался тому, что в стратегиях Мексики, Колумбии, Дубая, Канады, а также Испании и ещё ряда стран ЕС оказывается, есть специальные разделы по этике создания и внедрения ИИ и они РЕАЛЬНО, а не номинально, как в России, за этим следят, причём на уровнях контроля со стороны конгрессов и правительств! Замечу, что Мексика, Испания и ряд других стран ЕС - это страны с очень значительным числом верующих католиков или протестантов, а Дубай - мусульман (вот чуют они, ЧТО БУДЕТ ОЗНАЧАТЬ СОЗДАНИЕ Т.Н. «СИЛЬНОГО» ИИ, особенно если его создавать по концепции врага человеков Шмидхубера). Читатели, желающие узнать больше, могут посмотреть материалы по ссылкам: https://ia-latam.com/2019/08/06/estrategia-nacional-en-mexico-de-ia-va-por-sentido-etico-y-responsable/ , https://www.forbes.com.mx/estrategia-nacional-de-inteligencia-artificial-va-por-sentido-etico-y-responsable/# , https://u-gob.com/principales-retos-de-la-ia-en-mexico-etica-politicas-publicas-y-cultura/ , http://derechoenaccion.cide.edu/la-tecnologia-como-un-nuevo-estado-de-derecho-en-mexico/ , https://www.xataka.com/legislacion-y-derechos/estrategia-nacional-inteligencia-artificial-que-promete-gobierno-conseguir-proximos-dos-anos-600-millones-euros , https://www.lamoncloa.gob.es/presidente/actividades/Paginas/2020/021220-sanchezenia.aspx , https://www.abc.es/tecnologia/informatica/soluciones/abci-hacia-modelo-inteligencia-artificial-etico-inclusivo-202012020115_noticia.html , https://sevilla.abc.es/andalucia/granada/sevi-espana-presenta-granada-estrategia-para-inteligencia-artificial-etica-201903041536_noticia.html , https://elpais.com/economia/2020/04/18/actualidad/1587191468_312167.html , https://expansion.mx/tecnologia/2020/03/11/maquinas-con-etica-el-reto-tendencia-tecnologico-del-2020 , https://www.ciencia.gob.es/stfls/MICINN/Ciencia/Ficheros/Estrategia_Inteligencia_Artificial_IDI.pdf , https://ia-latam.com/portfolio/pautas-eticas-para-una-ia-confiable-comunidad-europea/ , https://ia-latam.com/portfolio/marco-etico-para-la-inteligencia-artificial-en-colombia/ , https://ia-latam.com/portfolio/the-state-of-ai-ethics-montreal-canada/ , https://ia-latam.com/portfolio/principios-eticos-de-la-inteligencia-artificial/ , https://ia-latam.com/portfolio/ethically-aligned-design-ieee/ , https://ia-latam.com/portfolio/ai-ethics -principles -guidelines / , https ://ia -latam .com /portfolio /pautas -eticas -para -una -ia -confiable -comunidad -europea / , https ://www .europarl .europa .eu /RegData /etudes /STUD /2020/634452/EPRS _STU (2020)634452_EN .pdf , https ://publications .iadb .org /publications /english /document /Artificial -Intelligence -for -Social -Good -in -Latin -America -and -the -Caribbean -The -Regional -Landscape -and -12-Country -Snapshots .pdf , https ://www .tmgtelecom .com /wp -content /uploads /2020/03/TMG -Report -on -Overview -of -AI -Policies -and -Developments -in -Latin -America .pdf , https ://www .accessnow .org /cms /assets /uploads /2020/12/Europes -approach -to -AI -How -AI -strategy -is -evolving .pdf , https ://unesdoc .unesco .org /ark :/48223/pf 0000374014?posInSet =1&queryId =N -EXPLORE -f 4357445-8475-4526-b 9ae -c 29e 5225b 6b 5 , https://search.coe.int/cm/pages/result_details.aspx?ObjectId=090000168092dd4b , https://rm.coe.int/unboxing-artificial-intelligence-10-steps-to-protect-human-rights-reco/1680946e64 , https://rm.coe.int/draft-recommendation-of-the-committee-of-ministers-to-states-on-the-hu/168095eecf , https://alrii.ru/ethics
Более того, этические принципы в сфере искусственного интеллекта опубликованы в США. И более того, власти там взялись за этичность ИИ всерьёз на деле, а не только на уровне благих пожеланий - см. https://searchenterpriseai.techtarget.com/feature/AI-vendors-may-have-to-prove-systems-dont-discriminate?track=NL-1816&ad=937625&asrc=EM_NLN_146720773, https://searchhrsoftware.techtarget.com/news/252494830/Democrats-push-for-AI-bias-testing, https://searchenterpriseai.techtarget.com/news/252476466/White-House-issues-guiding-principles-for-AI-regulations, https://searchenterpriseai.techtarget.com/feature/Heres-how-one-lawyer-advises-removing-bias-from-AI
Впрочем, я не настолько наивен, чтобы полагать, что те же испанцы решили сосредоточить внимание на разработках в области этики ИИ только из-за высокой религиозности тамошних правителей и разработчиков. Я полагаю, что кто-то из испанских правителей оказался настолько умён сам, или послушался кого-то из умных советников, что осознал - одна из возможностей использования разработок ИИ для их страны и занятия значимой в мире позиции в этой области связана с этикой. Прямо сейчас правительства во всем мире стремятся создать этику, чтобы ИИ действовал справедливо и беспристрастно. И Испания, если поторопится, может оказаться среди лидеров этого процесса. Например, если правительство Испании профинансирует проект, объединяющий заинтересованные стороны со всего мира, чтобы создать этику, которую могут использовать компании, страны и города с целью устранения тех вполне обоснованных опасений, которые вызывает нарастание внедрений ИИ во всё большем числе областей деятельности . Тогда со временем Испания может создать этику, применимую ко всем процессам развития ИИ - от правоохранительных органов до вербовки и ведения боевых действий - тех областей, в которых в ИИ уже вкладывают огромные средства во многих странах мира. И это в принципе реально - см., например, https://www.businessinsider.com/a-spanish-tech-company-want-to-programme-ai-machines-with-ethics-2018-6 , https://spainsnews.com/spain-wants-to-lead-the-ethical-development-of-artificial-intelligence-research-science/ , https://elpais.com/economia/2020/04/18/actualidad/1587191468_312167.html , http://www.aikaeducacion.com/destacados/la-formula-ia-del-gobierno-espanol-al-2025-reduccion-de-brechas-y-el-gobierno-etico-de-datos-y-algoritmos/ , https://www.elespanol.com/invertia/disruptores-innovadores/politica-digital/organizaciones/20201208/ano-aprenderemos-crear-inteligencia-artificial-etica/541446495_0.html , http://go.wizeline.com/rs/571-SRN-279/images/Towards-an-AI-strategy-in-Mexico.pdf
В этом же направлении двигается также и Сингапур .
А в России, наоборот, формально заявив о необходимости рассмотрения вопросов этики при разработке систем ИИ , на практике приглашают возглавить национальный центр по вопросам ИИ человека, который известен своими публичными высказываниями о том, что он хочет создать ИИ, который превзойдёт людей и вытеснит их изо всех сфер деятельности. И российский «кодекс поведения» ИИ , который планировалось выпустить в июле 2020 года, так и не появился. И получается, что Россия и Китай (а ещё Иран и Северная Корея) как раз и будут лидерами в приведении человечества к одному из двух состояний - как в фильмах «Матрица», или как в фильмах «Терминатор». Потому что верно написал главный технический директор Televisa Игорь Розетте : «Вы должны четко понимать, какую ответственность вы собираетесь делегировать ИИ при принятии решений. Если вы не ограничите его с самого начала, он может выйти из-под контроля. Если это оставить на усмотрение только разработчикам, то это неправильно».
Вы можете подумать, что всё не страшно и что ИИ будет вытеснять людей только из сфер массового производства. Увы, однако уже сейчас искусственные персонажи заменяют людей и в тех сферах, которые ещё до недавнего времени считались исключительно прерогативой людей - см., например, https://expansion.mx/tecnologia/2021/01/18/mexico-entra-al-mercado-de-humanos-digitales
Есть недальновидные люди, которые полагают, что при возникновении вызванной вытеснением людей изо всех сфер производства массовой безработицы правительства и руководства крупнейших транснациональных корпораций введут т.н. "безусловный базовый доход» - и освобождённые от необходимости работать люди станут массово заниматься творчеством, физкультурой и т.п. Вот только по моему мнению, когда заняться нечем и есть стабильный базовый доход, больше думать люди не начнут, и тренироваться больше не станут. Скорее реализуется сценарий, описанный братьями Стругацкими в их "Хищные вещи века".
И так считаю не только я. Известный футуролог Сергей Переслегин написал в своей статье «В известной мере всё кончено» : «… ответ на вопрос, какие нужны профессии, - скорее, никакие. Но максимально долго продержатся медицина, ибо там далеко не всё удобно поручить роботам, работа с совсем маленькими детьми - детские сады и отчасти школы. Какое-то время продержатся финансовые технологии и военные технологии, высшие исследования, верхушка бюрократии. Но люди, которые готовят нам фактически общее рабство, не понимают, что в эти условия попадут и они тоже. Приход искусственного интеллекта как совершенно новый вызов человечеству должен был требовать не эпидемии и не изоляции, а очень сложной работы по подготовке человека к тому, чтобы он с этим искусственным интеллектом мог сотрудничать. Но этого не произошло».
Также очень хорошо на эту тему написано здесь.
А самое страшное в том, что эта новая промышленная революция, которую ещё называют переходом к 6-му технологическому укладу, является ПРИНЦИПИАЛЬНО ИНОЙ по отношению ко всем предыдущим. Все без исключения революции имели своих, как сейчас сказали бы, стейкхолдеров. Или, по-простому, интересантов. Которые снабжали "революционные массы" ресурсами. И при этом всем прежним интересантам было нужно продолжение человеческого рода - ибо нужно было, чтобы на них кто-то работал. Ныне же впервые в истории человечества складывается качественно иная ситуация, когда за счёт развития робототехники, аддитивных технологий и ИИ те, кто будет ими владеть, перестанут нуждаться в остальных людях. И если те просто начнут спиваться или уходить в виртуальные миры (которые заменят нынешние наркотики) и ускоренно умирать там от нервного и/или физического истощения, то владельцев роботизированных аддитивных производств под управлением ИИ такой сценарий вполне устроит. И МНОГО ЛИ СРЕДИ ТЕХ, У КОГО ЕСТЬ РЕСУРСЫ, тех, кто при этом заинтересован в продолжении роста численности населения Земли? А обычным людям просто нечего будет противопоставить владельцам систем ИИ - и не только потому, что использование ИИ позволит создать сверхэффективные военные технологии, а и потому, что управляющие ИИ будут владеть совершенными системами управления массовым сознанием посредством создания новых образов мира (и приведённый выше пример с искусственными персонажами в тех сферах, которые ещё до недавнего времени считались исключительно прерогативой людей - это только начало данного процесса).
И вот тут я хочу задать вопрос - а что, ПОКА ЕЩЁ НЕ ПОЗДНО, нужно сделать, чтобы люди таки смогли ещё успеть исправить ситуацию и начать создавать гибридные системы, в которых они смогут сотрудничать с ИИ, причём практически на равных? Моё мнение - это возможно только на пути усиления способностей человека путём генетических и нейро- модификаций, чтобы сделать людей пригодными для создания т. н. гибридного интеллекта, позволяющего сохранить возможность людей на равноправное сотрудничество с ИИ. Для чего нужно также усилить развитие систем для создания «коллективного разума», которым я посвящу следующую статью.
Ну а кроме этого, в моём представлении, работа любых ИИ должна жёстко контролироваться с возможностью их немедленного отключения, если они начнут себя САМОСТОЯТЕЛЬНО ВЕСТИ (ну или САМООСОЗНАЮТ СЕБЯ). И уж точно нельзя позволять ИИ превращать их деятельность в игры! А то они такого наиграют - по типу как в снятом аж ещё в 1983 году фильме "Военные игры" (WarGames), ну или в уже упомянутых выше «Матрице», или «Терминаторе».