Статья эксперта Сколковского института науки и технологий по вопросам международного регулирования искусственного интеллекта (ИИ) и сквозных технологий, исполнительного секретаря Комитета по вопросам ИИ при Комиссии Российской Федерации по делам ЮНЕСКО Юрия Линдре специально для «ЗВЕЗДА.АНАЛИТИКА».
В экспертном дискурсе, как в России, так и за рубежом, давно постулируется очевидный как восход солнца факт – глобальные цифровые платформы (ЦП), например соцсети, активно изучают своих пользователей. Однако за скобками дискуссий остается как сама механика, так и цели такого «изучения». Обычно все сводится к простому и лаконичному объяснению – чтобы совершенствовать рекомендательные алгоритмы онлайн-сервисов для удобства и услады лени пользователей. И это чистая правда, но далеко не вся.
Практически любые алгоритмы искусственного интеллекта (ИИ) создаются и служат одной единственной цели – обеспечить качественную и быструю обработку больших массивов размеченных (типовых) данных с последующим обобщением и выходом на запрограммированный результат. В качестве иллюстрации: натренированный на тысячах МРТ-снимках ИИ-алгоритм с легкостью определит наличие или отсутствие злокачественной опухоли, если в него загрузить свежий МРТ-снимок привычного формата или разметки. Качество результата работы ИИ находится в прямой зависимости от накопленного «опыта», т.е. объема изученной выборки снимков с точными диагнозами. Новое изображение сверяется с ранее исследованной базой образов, далее происходит категоризация выявленных аномалий путем сопоставления ключевых параметров и в конце ИИ-система выдает ответ на вопрос что же в итоге мы видим на снимке.
К ИИ-алгоритмам, встроенным в ЦП, применима схожая логика, однако их палитра задач не только значительно шире, но и более разноплановая. Соцсети, видеохостинги, «умные» приложения, маркетплейсы и различные агрегаторы в той или иной степени хотят знать, как живет и чем дышит их клиент, чтобы уметь предвосхищать его запросы и желания (или направлять их в нужное владельцам онлайн-сервисов русло). Такие устремления продиктованы бизнес-интересами руководства ИТ-гигантов, стремящихся повысить конкурентоспособность своих приложений на мировых рынках. Именно поэтому ЦП, подобно промышленным пылесосам, поглощают практически любые данные о пользователе и его активности в Интернете. Ценность представляет буквально все что получится найти, отследить или выведать (например, побуждая человека заполнять поля своего профиля/аккаунта или давать обратную связь об уровне удовлетворенности сервисом). За сбором следует анализ данных, который позволяет формировать индивидуальные личностные портреты по самой очевидной схеме: чем больше разнообразных сведений, тем точнее и качественнее портрет. Сказанное выше не является каким-то секретом, однако об этом не принято распространяться, дабы не смущать общественность. Справедливости ради, в типовых пользовательских соглашениях ЦП где-нибудь после 30-й страницы о контроле за активностью людей наверняка что-нибудь написано, но как известно, эти километровые простыни текста никто не читает.
Работа «ИИ-пылесоса» ведется автоматически в фоновом режиме всеми крупными ЦП и внешне никаких проблем для пользователей и общества не создает. С формальной точки зрения, сбор, разметка и анализ данных о человеке, с последующей сортировкой его цифровой личности по определенным критериям, может и не слишком приятна большинству пользователей, но само по себе такое портфолио мало что дает цифровым платформам, их владельцам или операторам. Но это только если сбор ведется ради сбора, т.е. не предполагается запуск процесса дальнейшей работы с личностными портретами.
Так, что же происходит или может происходить по ту сторону алгоритмических зеркал?
В научных кругах постепенно формируется консолидированное мнение о том, что возникающие у человека потребности и намерения (побуждение к действиям) обусловлены биохимическими процессами в его теле, которые выражаются в эмоциях (краткий период действия), чувствах (длительный период действия) и глубинных желаниях (могут быть с человеком большую или даже всю его жизнь). Если коротко и схематично, то наше подсознание формулирует определенные запросы, мнения, желания или потребности на базе информации, которую поставляют органы чувств. Они, в свою очередь, отвечают за фильтрацию и первичный анализ поступаемых из окружающего мира сведений и «докладывают» в мозг некую интерпретацию полученного опыта. Собранные воедино интерпретации служат основой для последующих «управленческих решений», принимаемых мозгом еще до стадии осмысления конкретной ситуации нашим сознательным «Я». Например, мозг самостоятельно дает команду «бояться» (при резких и громких звуках), «хотеть» (съесть увиденный десерт), «вступить в контакт» (с заинтересовавшим человеком) и т.д. В западном академическом сообществе даже есть такой термин - Perceptual Intelligence(перцептивное мышление), под которым понимается весь процесс анализа входящей информации и реакции на нее до стадии осмысленного восприятия*. Если ученые правы, то все биохимические процессы у млекопитающих, включая человека, следуют определенным схемам и закономерностям, т.е. по сути являются алгоритмами, только в биологической, а не кремневой форме. В таком сценарии свобода воли у каждого из нас существует лишь в рамках простой вилки выбора: идти на поводу своих хотелок или не идти. Однако нашему сознательному «Я» не дано право определять, чего и в каком виде желать или не желать вовсе – на работу алгоритмов сознание человека влиять не может.
* Перцептивное мышление - способность человека воспринимать и использовать информацию, которую он получает с помощью органов чувств. Фактически, это компонент интеллекта, помогающий хранить в обработанном виде информацию, собранную в результате взаимодействия с окружающей средой.
Все это еще не полностью доказанный научный факт, но рабочая гипотеза в пользу которой появляется все больше и больше доказательств. Она имеет прямое отношение к программированию ИИ-алгоритмов для целей манипулирования общественным сознанием через популярные цифровые платформы и сервисы. Иными словами, «взломав» код биохимических алгоритмов или хотя бы поняв основные принципы их работы, можно получить инструмент прямого управления человеком или как минимум встроиться в процесс управления. В случае «успеха», посланные человеку извне команды в виде желаний или намерений станут восприниматься им как исключительно свои, выстраданные и крайне важные. Механизмы защиты нашего сознательного «Я», такие как «внутренний критик», будут задвинуты на вторые роли, поскольку в абсолютном большинстве стрессовых или нестандартных ситуаций человек действует не рационально, а под воздействием нахлынувших на него чувств и эмоций. Кроме того, приоритет внутренних желаний уже сегодня активно подогревается укореняющейся в глобальном социуме идеологией консьюмеризма**. Такое не под силу никаким из известных методов классической пропаганды. Прежде чем оказать хоть какой-то воздействующий эффект, она сперва обязана взять штурмом все защитные бастионы сознательного «Я».
Итак, сформировав личностный портрет пользователя на основе открытых данных, через свои рекомендательные ИИ-алгоритмы ЦП могут спокойно и методично «подсовывать» человеку контент, на который он, исходя из полученных сведений, должен каким-то образом среагировать. Смысл в том, чтобы заставить пользователя ЦП проявить личностное отношение, сформированное на основе усредненного «мнения» его органов чувств. Со временем нехитрым методом перебора контента и контекста вокруг него ИИ-алгоритм будет выявлять и анализировать искомые закономерности в реакциях человека, вызывающие определенные чувства и эмоции. В конечном счете это позволит дополнить личностный портрет уникальным шифром для точечного и прогнозируемого воздействия на интерпретирующие механизмы органов чувств отдельно взятого пользователя. В самом упрощенном виде это может выглядеть так: если Джон любит футбол, но изначально настороженно относится к ЛГБТ+ сообществу, то для изменения его отношения к этим людям ему при каждом удобном случае необходимо «скармливать» контент с успешными футболистами-геями.
** Консьюмеризм - этика современной капиталистической системы, стимулирующая безудержное личное потребление на основе идеи, что намерения и желания отдельного индивида важнее коллективных интересов общества.
Главная задача состоит в том, чтобы добиться от органов чувств и мозга человека, как конечной точки формулирования консолидированного мнения, нужной интерпретации с прогнозируемыми действиями в качестве ответа на представленный контент (смысл, образ или идеологическую установку). Зачем идти напролом топорной рекламой или пропагандой, когда можно коррумпировать процесс анализа информации еще до стадии ее осмысления и принятия осознанных решений? Если вся эмоциональная сторона жизни человека суть набор алгоритмов, то намного проще поручить другим алгоритмам, т.е. ИИ, их раскодировать, а затем пересобрать с нужной модификацией в режиме реального времени. Благо среднестатистический пользователь проводит в Интернете до 7-8 часов ежедневно – вполне достаточно, чтобы за полгода-год незатейливо его перековать, если на то будет соответствующая воля «сверху». Именно в этом состоит смысл фокуса глобальных ЦП, пытающихся всевозможными способами сохранить за собой право бесконтрольно собирать, обрабатывать и использовать данные людей по всему миру. Пока работа по наполнению личностных портретов далека от завершения, а рабочие алгоритмические модели манипулирования поведенческими паттернами пользователей хоть и существуют, но отнюдь не совершенны. Однако такая исследовательская деятельность ведется, причем достаточно давно и весьма активно. Еще в ноябре 2020 г. в журнале Национальной академии наук США американские ученые опубликовали результаты своего исследования Adversarial vulnerabilities of human decision-making (Состязательные уязвимости процесса принятия решений человеком) о возможностях ИИ манипулировать сознанием человека при принятии решений***. Натренированная должным образом на конкретных людях ИИ-система оказалась способна выявлять узкие места в мыслительных, т.е. интерпретирующих процессах органов чувств и, точечно воздействуя на них, подталкивать человека к определенному выбору. Хотя сами испытуемые были уверены, что хитрый программный алгоритм просто пытается угадать, что они для себя решили (на момент публикации исследования эффективность манипуляционных алгоритмов в лабораторных тестах, т.е. при идеальных условиях, составляла около 70%).
*** https://www.pnas.org/doi/10.1073/pnas.2016921117
Помимо сохранения контроля за оборотом данных пользователей, глобальные ИТ-гиганты стремятся также замкнуть на себе всю цифровую жизнь человека. Соцсети, а также иные ЦП, хоть и способны в перспективе стать мощным источником манипуляционного воздействия, однако далеко не всеобъемлющим. Другое дело, когда ЦП начнут срастаться в метавселенные, закрывающие потребности общества буквально во всех сферах жизни (работа, развлечения, общение, творчество, хобби). Тогда воздействие на сознание человека действительно станет всесторонним. Нужные и при этом единообразные установки будут запаковываться и поставляться в виде самого разнообразного контента, услуг, рекламы, деловых и образовательных платформ, развлекательных сервисов и т.д., с которым пользователю придется иметь дело повсеместно. Ведь метавселенная это по сути цифровой двойник реальной жизни. Правда, у нее всегда будет хозяин со своим видением хорошего и плохого, но это уже детали. Только на этапе тотального вовлечения человека в цифровое взаимодействие «электронный концлагерь» явит миру свое истинное лицо, а пока ИТ-гиганты «лишь» оптимизируют рекомендательные алгоритмы своих узкопрофильных цифровых сервисов, например, онлайн кинотеатров.
К счастью, на текущем этапе все сказанное является не более чем одним из возможных сценариев. Но вот что совершенно точно и крайне важно абсолютно для всех: если у ИТ-корпораций и подконтрольных им ЦП не будет бесконтрольного доступа к данным человека, то у них также не будет «топлива» для заправки ИИ-алгоритмов, созданных с целью изучения людей со всеми вытекающими рисками и угрозами, в т.ч. описанными в этой статье.
📹Видеоверсию выпуска целиком можно посмотреть здесь или здесь
📌Подписывайтесь на нас в Телеграм @zvezda_analytics
#звездааналитика #шафран #линдре #интернет #тнк #политтехнологии #интернетзависимость #украина