Он знает, что ты делал прошлым летом.
Правительство в скором времени делегирует большую часть своих полномочий алгоритмам, которые будут считывать информацию из микрофонов на улицах и в домах из миллиона камер видео съемки, анализа социальных сетей и прочего и прочего, так что у человека не будет секретов от алгоритма, а значит человек, будет воспринимать ИИ как бога, который вечно следит за ним, алгоритм знает, где он был прошлым летом, знает, что человек изменяет своей жене, знает, что человек обманул друга или впал в депрессию. Алгоритм первый узнает, о гормональном фоне и частоте сердечных сокращений, благодаря фитнес браслетам, которые уже сейчас, могут передавать информацию о человеке в центры обработки данных, а в будущем будут на много совершеннее.
Представим 2060 год, всеми системами заправляют алгоритмы, которые в целом уже недоступны для осознания людьми. Они делают выводы о личности на основании десятка тысяч параметров. Какой из них имеет главное значение, какой второстепенное неизвестно и вот система на основании своих данных к примеру разрешает вам получить бесплатную пересадку сердца или отказать, одобрить кредит и тд. С ней нельзя спорить, она есть высшее мерило всего и вся, а если так, то остается лишь надеяться не попасть к ней в немилость.
Страх обуяет общество, люди будут винить себя, что им отказали в кредите из за того, что когда то человек, перешел дорогу в неположенном месте, а потом система считала этот поступок и охарактеризовала человека, как склонного к правонарушениям. Или скажем система создавая психологический портрет человека, имея доступ к его личной переписке выяснила, что человек этот часто врёт и выдает разным людям противоречивую информацию, таким образом, так же помечает в своём алгоритме, что данный человек склонен к интригам и не подойдет на такую то должность. Десятки тысяч параметров и полный доступ к жизни человека, а так же алгоритмы смогут давать точные прогнозы, на то сколько вы проживете, сколько продлятся ваши отношения, сколько вы смогли бы проработать на данном месте учитывая ваши характеристики и тысячи характеристик ваших коллег.
ИИ системы алгоритмов будут править в нашем мире,а не случится ли так, что появятся люди, которые будут утверждать, что будто бы знают, как повернуть алгоритм в свою пользу, имея инсайдерскую информацию. Появятся секты, которые будут преувеличивать возможности ИИ, некоторые люди будут утверждать, что новые системы с помощью наушников или гаджетов имеют возможность считывать даже ваши мысли. В таком случае даже помыслив определенным образом человек будет ждать кары от ИИ или благодарности. В отказе системы в какой либо помощи, либо понижение статуса человека он начнет винить себя и будет думать, что система считала его негативные мысли и сформировала о нём ещё более негативный портрет. И тогда появятся люди утверждающие, что систему можно умилостивить, что совершая хорошие дела или прося у ИИ прощения, человек будет повышать свой положительный образ в глазах бездушной системы. Всемогущий ИИ считывающий даже мысли и определяющий даже искренне ли человек извиняется или нет на основе данных напульсников и сенсоров будет прощать человека, пересматривать свои выводы и благоволить ему. Например, идёт человек по улице молит прощения у ИИ за то, что он сквернословил и думал о недопустимых вещах и в реальном времени его статус плохого гражданина смещается на несколько пунктов выше. Например будет считаться, что если посетить такую то выставку, то ИИ считает это как позитивный показатель социальной активности и закинет в копилку человека лишние баллы, а если человек при этом ещё искренне согласен с тем, что говорят на мероприятии и свято верит в то, что там говорят, то для ИИ это вообще показатель, того что человек крайне благонадежен и система внесет его в списки тех кому надо помогать.
Ницше в 19 веке сказал, что мы убили Бога, но в 21 веке его воскресят, новым богом материалистов станет ИИ, который будет решать их судьбу и незримо следить за каждым действием, а человек как обычно в погоне за земными удовольствиями станет его рабом. Как говорится скринте, всё так и будет.