Когда дело доходит до искусственного интеллекта (ИИ), как правило доминирует одна из двух противоположных позиций: ИИ - спаситель или злодей. Но в любом случае - представляется ли ИИ как технология, отвечающая за роботов-убийц и массовое сокращение рабочих мест, или как технология, излечивающая все болезни - ситуация выглядит так, что ИИ В ЛЮБОМ СЛУЧАЕ будет определяющей чертой нашего будущего общества.
Однако возможно альтернативное видение будущего развития информационно-аналитических систем. Начав НЕ С КОМПЬЮТЕРОВ, А С ЛЮДЕЙ, мы можем внедрять новые технологии в нашу жизнь более осознанным и менее разрушительным образом. К улучшению отношений между машинным и человеческим интеллектом может привести чёткое определение проблем, которые мы хотим решить, и сосредоточение внимания на решениях, которые приносят наибольшую коллективную выгоду.
Рассматривая ИИ в контексте крупномасштабных совместных проектов в таких областях, как гражданская наука и т. н. социальный комптютинг, мы можем усилить то, что можно достичь коллективными усилиями и сформировать будущую траекторию машинного интеллекта. Т. е. подход, АЛЬТЕРНАТИВНЫЙ РАЗВИТИЮ ТОЛЬКО СИСТЕМ ИИ, основан на создании систем коллективного разума, или гибридного интеллекта.
В подготовленном Центром проектирования коллективного разума отчёте «Будущее разума и машин» представлена новая основа для размышлений о том, как люди могут взаимодействовать с ИИ, и указаны способы, которыми ИИ может повысить ценность коллективного человеческого интеллекта и наоборот в самых разных областях, от сельского хозяйства до мониторинга нарушений прав человека.
Это исследование является одним из немногих, в которых изучаются возможности объединения машинного и коллективного человеческого интеллекта для решения социальных проблем и максимальной пользы для общества.
А ведь даже коллективный разум, составленный из обычных людей, уже не раз доказал свою эффективность. Системы, основанные на «мудрости толпы», успешно применялись в социальных вопросах и в науке. Так, «мудрость толпы» была реализована уже в обычных социальных сетях (например, «лайки», «подписчики») и в интернет-магазинах (например, рейтинги и комментарии покупателей и продавцов), что повышает вовлеченность клиентов ( Yoon and Youn, 2016; Tan et al., 2017; МакКенна, 2020). Используются методы "коллективного разума" и в науке.
Основанный колледжем Imperial стартап SynSapien создает открытую инновационную платформу, чтобы объединить ученых, исследователей и новаторов со всего мира для обмена данными и совместного решения глобальных проблем. Используя платформу, разрозненные группы ученых могут усилить влияние своих исследований за счет международного междисциплинарного сотрудничества. Оказавшись внутри пространства для совместной работы, учёные могут предлагать идеи, оставлять отзывы об идеях других и оценивать предложения. Внутренний алгоритм оценивает идеи и ответы и помогает группе принимать решения. Все взаимодействия с каждым членом группы измеряются, что позволяет идентифицировать ключевых участников.
В настоящее время на платформе есть несколько проектов, над которыми работает междисциплинарное сообщество из более чем 500 ученых, исследователей и студентов со всего мира, представляющих такие университеты, как Имперский колледж Лондона, Оксфордский университет, Кембриджский университет, Бирмингемский университет, Университетский колледж. Лондон, Джорджтаунский университет и Университет Сорбонны.
Одним из проектов является проект по разработке недорогого аппарата для экстренной вентиляции, который поможет сообществам с низким доходом бороться с COVID-19. По данным Всемирного экономического форума, аппараты ИВЛ стоят около 30000 долларов каждый, что делает их недоступными для многих систем здравоохранения в странах с низким уровнем дохода. SynSapien пригласил ученых и новаторов со всего мира разработать недорогой аппарат ИВЛ, который можно будет производить на местном уровне по цене менее 99 долларов.
По сравнению с другими краудсорсинговыми платформами, работающими по конкурентной модели, система SynSapien представляет собой инструмент для совместной работы, который позволяет большим группам пользователей совместно внедрять инновации для быстрого решения глобальных проблем.
Есть уже и первые попытки создания систем коллективного разума на основе объединения человеческого разума и ИИ - например, ACI Framework. Платформа ACI предоставляет инструмент для рассмотрения того, как взаимодействие между человеческим интеллектом (HI) и искусственным интеллектом (AI) может быть применено к решению проблемам общества. Цифровая среда содержит представления физического мира с помощью так называемых цифровых двойников - личных цифровых двойников людей (PDT) и цифровых двойников физических систем (Asset Digital Twins, ADT). Инфраструктура ACI позволяет пользователю моделировать взаимодействия между этими компонентами, а также отображать потоки данных и информации. Агентные модели (ABM) и имитационное моделирование используются для изучения сценариев, используя данные из физической среды для моделирования потенциальных результатов, которые могут использоваться для помощи в принятии решений в реальном мире.
Важно, что разработчики ACI Framework тщательно изучают вопросы этики ИИ, используя обзор вопросов, связанных с созданием правил "морального" поведения ИИ, а также обширный обзор этических принципов ИИ и подготовленных Группой экспертов высокого уровня Европейской комиссии рекомендаций по развитию ИИ (https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai, https://dash.harvard.edu/bitstream/handle/1/42160420/HLS%20White%20Paper%20Final_v3.pdf).
При создании систем ИИ необходимо убедиться в том, что системы ИИ действуют в соответствии с человеческими ценностями. При этом прямое кодирование человеческих ценностей в ИИ представляется трудно достижимым. И эту проблему могут решить гибридные системы, в которых роль элементов, отвечающих за моралльно-этическую сторону решений, будут выполнять люди.
Илон Маск в одном из своих последних интервью рассуждает о том, что люди должны в самое ближайшее время слиться с искусственным интеллектом и создать новую форму интерфейса взаимодействия. Возможно, этот симбиоз приблизит человечество к решению одной из самых трудно решаемых задач – прогнозирование будущего с достаточно высокой точностью. Симбиоз двух типов интеллектов в данном случае мог бы эффективно нивелировать недостатки «эмоционального» подхода людей, усилив сигнал для принятия решений множеством децентрализованных точек для анализа данных. Применение подобного подхода обосновано в системах с еще большей степенью неопределенности и высокой сложностью решаемых задач. Например, биотехнологии. В известной научной работе коллектив исследователей создал игру, в которой синергия двух интеллектов помогает человечеству находить лекарства от ранее неизлечимых заболеваний.
А теперь только представьте себе, какие перспективы открыло бы создание сетей коллективного разума, в которых мышление участвующих в них людей было бы усиленно путём использования нейротехнологий, или даже генетических модификаций!
Так почему же работ по созданию систем гибридного интеллекта типа
http://networkinstitute.org/2019/09/03/gravitation-grants-2019-hybrid-intelligence/
http://www.cltl.nl/projects/current-projects/hybrid-intelligence/
https://hdsr.mitpress.mit.edu/pub/wiq01ru6/release/3
https://www.nature.com/articles/s42256-019-0103-7
https://news.microsoft.com/apac/features/making-artificial-intelligence-human-centric/
http://www.ithappens.nu/does-artificial-intelligence-improve-humanity/
https://www.purchasecontrol.com/uk/blog/intelligence-augmentation-vs-artificial-intelligence/
https://www.sciencedirect.com/science/article/pii/S0378720619303337
https://www.socialeurope.eu/designing-ai-tools-to-benefit-workers
https://www.ey.com/en_gl/ai/is-ai-the-start-of-the-truly-creative-human
https://www.pewresearch.org/internet/2019/10/28/5-leading-concerns-about-the-future-of-digital-life/
явно намного меньше, чем разработок, в которых предполагается использовать ИИ для замены людей?
И почему не находят широкой поддержки разработки в направлении усиления способностей человеческого мозга типа:
https://www.nkj.ru/archive/articles/6406/
https://www.youtube.com/watch?v=paAfG4GSdto
https://www.nkj.ru/archive/articles/6775/
https://www.youtube.com/watch?v=4_PHV-4Rzgg
https://www.youtube.com/watch?v=zX3RcqW6RvM
https://www.ucsf.edu/news/2015/11/242926/one-neuroscientists-quest-create-healthier-brains
https://pubmed.ncbi.nlm.nih.gov/15788259/
https://www.thehastingscenter.org/briefingbook/enhancing-humans/
https://futureoflife.org/2017/04/18/ensuring-smarter-than-human-intelligence/?cn-reloaded=1
https://www.bbc.com/future/article/20190709-has-humanity-reached-peak-intelligence
https://sciencepop.ru/5-neveroyatnyh-nejroimplantov/
http://neuronovosti.ru/augnmenbrain-1-close-loop-bci/
По моему, должна быть создана возможность использовать определённые способы усиления способностей и выбор - пользоваться ими или нет. Однако если нет самой возможности, то нет и выбора.
При этом лично мне очень странно, почему размышления о возможностях искусственного усиления способностей людей вызывает у большинства опасения или даже нечто сродни брезгливости, в то время как создание "сильного ИИ" - аплодисменты и бурный восторг.
А ещё более странным мне кажется то, что некоторые хотят не допустить развития в России технологий, которые уже начали развивать за рубежом - типа https://www.newscientist.com/article/2109868-100-million-project-to-make-intelligence-boosting-brain-implant/ , https://www.nytimes.com/2019/07/16/technology/neuralink-elon-musk.html
Отмечу, что в России есть заделы для начала предлагаемых мною направлений действий (https://sochisirius.ru/news/2735, https://www.genotek.ru/genetics/sport/) и чтобы не отстать от КНР и США, надо их систематизировать и расширить (и так считаю не я один - см. https://expert.ru/expert/2019/04/nas-nakryivaet-geneticheskij-shtorm/)
Более того, практически подобные проекты уже начали реализовывать в КНР (https://regnum.ru/news/2787705.html, https://www.gazeta.ru/science/news/2020/06/17/n_14560417.shtml, https://inosmi.ru/science/20160828/237653851.html, https://mygenetics.ru/blog/genetika/talant-i-genetika/)
и в США (https://basisgenotech.ru/articles/mozg-i-genetika-izmerenie-intellekta-cheloveka/, https://nauka.tass.ru/nauka/6288196, https://www.forbes.ru/tehnologii/342447-fda-amnistiroval-geneticheskie-testy-chto-eto-znachit-dlya-industrii)
Так почему же не начать реализацию подобных проектов и в России? Чего, собственно говоря, все этого так боятся то? Из-за того, что некоторые из положений т. н. евгеникиспользовались некоторыми не очень популярными персонажами, теперь надо отрицать весь подход?
Обсудим?
