Группа исследователей из числа математиков, социологов и религиоведов создаёт компьютерные модели поведения общества. По их мнению, созданные модели позволяют понять, как лучше интегрировать беженцев, как меняется отношение людей к религии по всему миру, и как его изменить. Ученые также предостерегают, что результаты работы моделей могут привести к решениям, которые затрагивают сложные вопросы из сферы этики.
Представьте, что вы президент европейской страны. В этом году вы должны принять 50 000 беженцев с Ближнего Востока. Большинство из них очень религиозны, в то время как ваше население преимущественно светское. Вы хотите интегрировать новичков плавно, минимизируя риск экономических проблем или даже насилия, но ресурсы ограничены. Один из ваших советников советует инвестировать в образование для беженцев; другой, что предоставление рабочих мест – ключевой момент; еще один настаивает на том, что самое главное - дать молодежи возможность общаться с местными детьми. Что вы выберите?
Допустим, вы определились и надеетесь, что эта политика сработает. Но этого может и не произойти. Даже политика, которая сработала в другом месте или времени, может потерпеть неудачу в вашей конкретной стране при нынешних обстоятельствах. В этом случае, вы захотите нажать гигантскую кнопку перезагрузки и запустить весь эксперимент сначала, на этот раз выбрав другую политику. К сожалению, это так не работает, точно не с реальными людьми.
Однако можно проводить эксперименты с виртуальными людьми. Именно этим занимается «Modeling Religion Project». Команда ученых: программистов, философов, религиоведов и других специалистов со всего мира создаёт компьютерные модели, которые они заполняют тысячами виртуальных людей или "агентами". По мере того, как агенты взаимодействуют друг с другом и с меняющимися условиями в искусственной среде, их атрибуты и убеждения — уровни экономической безопасности, образования, религиозности и так далее — могут меняться. Исследователи программируют агентов, чтобы имитировать атрибуты и убеждения населения реальной страны, используя данные опросов. Они также «тренируют» модель на наборе социологических аксиом о том, как люди взаимодействуют под различными видами давления со стороны окружающей их среды.
После начинаются эксперименты: добавляются, скажем, 50 000 новичков и вкладываются значительные средства в образование. Как меняется искусственное общество? Модель показывает изменения. Не нравится? Просто нажмите кнопку сброса и попробуйте другой вариант.
Цель проекта - дать политикам инструмент, который поможет им оценить конкурирующие варианты политики, чтобы выбрать наиболее эффективный. Это благородная идея: если лидеры смогут использовать искусственный интеллект, чтобы предсказать, какая политика даст наилучший результат, возможно и мир станет лучше для всех. Но это и опасно: что и почему «лучше» определяется наблюдателем.
«Поэтому наши модели доступны для всех - их исходный код всегда в интернете», - заявляет Лерон Шульц, преподаватель философии и теологии в университете Агдера в Норвегии, «Если кто-то хочет изменить группу X, например, чтобы люди в ней больше заботились о защите своих прав и защите группы от угроз, то они могут изменить модель для своих исследований».
«Modeling Religion Project», в работе которого участвуют сотрудники Бостонского центра сознания и культуры и Центра моделирования, анализа и моделирования Вирджинии, а также университета Агдера, работает в течение последних трех лет. Изначальный проект закончился несколько месяцев назад, но он дал начало нескольким побочным исследованиям.
Одно из них фокусируется на беженцах - «Моделирование религии в Норвегии» (MODRN). Возглавляемый Шульцем, проект финансируется главным образом Исследовательским Советом Норвегии, который рассчитывает на модель, предлагающую полезные советы о том, как норвежское правительство может наилучшим образом интегрировать беженцев. Норвегия является идеальным местом для проведения этого исследования не только потому, что в настоящее время она борется за интеграцию сирийцев, но и потому, что страна собрала множество данных о своем населении. Используя их для калибровки модели, Шульц может получить более точные и детальные прогнозы, имитирующие то, что произойдет в конкретном городе и даже конкретном районе.
Другой проект, «Прогнозирование религиозности и экзистенциальной безопасности с помощью модели основанной на поведении «агентов»», рассматривает вопросы об атеизме: почему атеистов не становится больше? Почему секуляризация Америки происходит медленнее, чем в Западной Европе? Какие условия ускорят процесс секуляризации — или, наоборот, сделают население более религиозным?
Команда Шульца использует для анализа данные «Международного социального исследования 1991-1998 гг.» Они запустили модель в 1998 году, и она работала до конца 2008 г.
«На основе этих данных, мы смогли предсказать — в 22 странах Европы, а также Японии – будут ли люди верить в рай и ад, в Бога, и как будет изменяться посещаемость религиозных заведений за 10-летний период. Мы смогли предсказать это, в некоторых случаях, до трех раз точнее, чем при использовании традиционного способа - линейного регрессионного анализа», - говорит Шульц.
Работая с другой моделью - «Будущее религии и переход к светскому обществу» (FOREST), ученые обнаружили, что люди, как правило, отходят от религиозности, при наличии четырёх факторов: экзистенциальной безопасности (у вас достаточно денег и еды), личная свобода (ты волен выбирать, верить или нет), плюрализм (у вас есть благожелательное отношение к разнообразию), и образование (у вас определенное образование в области общественных и гуманитарных наук). Если хотя бы один из этих факторов отсутствует, весь процесс секуляризации замедляется. По их мнению, именно поэтому США секуляризируются медленнее, чем Западная и Северная Европа.
«США нашли способы ограничить последствия образования, сохранив его на местном уровне, а в частных школах может произойти все, что угодно», - сказал сотрудник Шульца Уэсли Уайлдман, профессор философии и этики Бостонского университета. «В последнее время, на самом высоком правительственном уровне поощряется менее благоприятное культурное отношение к плюрализму. Это формы сопротивления секуляризации.»
Другой проект – «Взаимная эскалация религиозного насилия» (MERV) - направлен на выявление условий, при которых ксенофобная напряженность между двумя религиозными группами может выйти из-под контроля. Как только модель была создана, команда привлекла эксперта со стороны: Монику Тофт, ученого в сфере международных отношений без опыта компьютерного моделирования, но с богатым опытом изучения религиозного экстремизма.
«Меня пригласили для того, чтобы я соотнесла эту модель с реальностью - имеет ли она вообще смысл? И затем, чтобы оценить, действительно ли результат соответствует исследованиям реальных случаев. Я немного скептически отнеслась к этому. Но меня удивило, насколько схожа с реальностью была модель по ситуации с индийским штатом Гуджарат». Имеются в виду беспорядки 2002 г., которые вспыхнули в индийском штате Гуджарат - три кровавых дня, в течение которых столкнулись мусульмане и индусы, что привело к сотням смертей с обеих сторон. (По официальным данным, погибло 790 мусульман и 254 индуса.)
«Когда я рассмотрела результаты моделирования, я сказала Лерону и Уэсли, «Боже мой!» Потому что я изучала столкновение в Гуджарате, и модель полностью отразила произошедшее.»
MERV показывает, что взаимная эскалация насилия наиболее вероятна, если существует небольшое различие в размерах между группами большинства и меньшинства (менее 70/30), и, если «агенты» испытывают вне группы социальные и инфекционные угрозы (они беспокоятся, что другие будут агрессивными или заразными). Это гораздо менее вероятно, если существует большая разница в размерах групп или если угрозы, с которыми сталкиваются агенты, в основном связаны с хищниками или природными опасностями.
Это может показаться очевидным, но наличие количественных эмпирических данных для поддержки социологических гипотез может помочь убедить политиков в том, когда и как действовать, если они хотят предотвратить будущие вспышки насилия. И как только модель отработают на реальных исторических примерах, ученые могут более правдоподобно утверждать, что она заслуживает доверия.
На вопрос о том, что MERV может предложить нам, Тофт ответила: «Мы можем остановить динамику роста столкновений, как в Гуджарате. Нам не нужно позволять им выходить из-под контроля.»
Следующий шаг - заинтересовать других использовать моделирование. Но это не так просто. Исследование было опубликовано в таких изданиях, как «The Journal of Cognition and Culture», и находится на рассмотрении в журнале «Nature». Также, команда создаёт онлайн-платформу, которая позволит людям с нулевым опытом программирования создавать модели на основе «агентов». Тем не менее, Уайлдмен пессимистично относится к своей собственной способности заинтересовать политиков этой новой и высокотехнологичной методологией.
«Всякий раз, когда возникает озадаченность, появляется проблема доверия, и в случае с нашими проектами тоже», - сказал он. «Мы: программисты, социологи, философы - в основном академические гики. Мы никогда не убедим их (политиков) доверять каким-то моделям.» Но он считает, что политические аналитики, действуя как связующее звено между академическим миром и миром политики, смогут убедить последних.
Еще труднее убедить тех, кто думает не о техническими сложностях методологии, а об ее этической составляющей. Как сказал Уайлдмен, «Эти модели – генераторы идей, но с равными возможностями для всех. Если вы хотите быть милитаристом, то модели могут показать вам, какие моменты необходимо учесть для достижения цели.»
При построении модели можно случайно создать рекомендации, которые вы не собирались создавать. Много лет назад Уайлдмен построил модель, чтобы выяснить, почему некоторые экстремистские группы выживают и процветают, в то время как другие распадаются.
Оказалось, что одним из важнейших факторов является наличие крайне харизматичного лидера, который лично практикует то, что проповедует. «Это сразу же подразумевало критерий убийства», - сказал он. «Опустим группы где лидеры менее последовательны своему учению, [но] убейте лидеров групп, которые имеют определенные качества. Я был шокирован, когда обнаружил, что модель подразумевает такое решение. Мне очень неудобно за то, что одна из моих моделей случайно создала критерий для оправдания убийства религиозных лидеров.»
Результаты этой модели были опубликованы, так что, возможно, о ней уже знают военные. «Используется ли критерии из моделей для определения целей у боевых дронов? Я не знаю, потому что существует гигантская стена между секретными исследованиями в США и обычными исследованиями», - говорит Уайлдмен. «Я пришел к выводу, что на «секретной стороне» они уже проанализировали все, что мы изучаем, потому что у них больше денег и они больше заинтересованы в этих вопросах. ... Но может быть, что эта модель действительно заинтересовала их. Это серьезная этическая проблема.»
По мнению Уайлдмена, другие модели вызывают не меньшую обеспокоенность. «Модель MODRN дает рецепт ускорения секуляризации - и дает рецепт ее блокирования. Вы можете использовать модель, чтобы вернуть мир в Средние века, используя некоторые из ключевых критериев — скажем, вызвав экологическую катастрофу. Затем человечество вернётся в эпоху сверхрелигиозности. Эта мысль не дает мне спать по ночам.”
По словам Нила Джонсона, физика, который моделирует терроризм и другие экстремальные виды поведения, возникающие в сложных системах, - «Это преувеличение силы моделей. Невозможно полагаться только на то, что устранение одного фактора из общества замедлит или остановит секуляризацию», - сказал он. Это вполне может работать в условиях моделирования, но не в жизни. Реальное человеческое общество настолько сложное, что все вещи могут быть взаимосвязаны иначе, а не как задано в модели.»
Хотя Джонсон сказал, что исследования команды полезны и важны, он не был впечатлен утверждением, что их способ анализа превзошел предыдущие прогностические методы. «Линейный регрессионный анализ не очень эффективен для прогнозирования», - сказал он. «Я был немного удивлен их претензиями к этим методам.» Он предупреждает, что люди должны скептически относиться к слову «предсказания» в случае с моделированием. Это скорее «точка зрения».
«Это отличный инструмент», - сказал он. «Это как заключение, которое даёт вам врач. Конечно, это тоже «мнение», но мы никогда не говорим «предсказание» врача. Обычно мы следуем мнению доктора, потому что они видели много подобных случаев, обследовали и вылечили много людей, которые приходят с тем же самым. С моделями это «мнение» даже в большей степени, потому что по ним было рассмотрено не так много схожих случаев — история имитирует прошлое, но не повторяет его в точности.»
Но здесь появляется другой важный момент: если сила моделей преувеличена, то это тоже этическая проблема.
Тем не менее, как и Уайлдмен, Шульц заявляет: «Я не сплю по ночам из-за выводов по моделям... Это социальная инженерия и трудно признать, что это не так». Но он добавил, что другие группы, такие как «Cambridge Analytica», также выполняют такую вычислительную работу. И различные «плохие парни» делают это без подобной прозрачности исследований или публичной подотчетности. «Это должно быть сделано. Так что не делать этого - не выход.» Вместо этого он и Вайлдмен думают, что правильное решение – работать максимально открыто и в то же время, предупреждать об этических опасностях, таящихся в концепции моделирования.
«Поэтому мы работаем на два фронта: как специалисты по моделированию и как специалисты по этике. Это самое правильное, что я могу делать» - говорит Уайлдман.
Оригинал статьи: https://www.theatlantic.com/international/archive/2018/07/artificial-intelligence-religion-atheism/565076/
«L’etagere d’Eugene» — обзоры, переводы, статьи по книгам, фильмам, а также просто интересные наблюдения из жизни и мира: https://telega.at/letagere
Поддержать группу и автора: