«Анекдот №381442
Мужик едет в автобусе на работу. Стоит, хмурый такой, и думает: "Жизнь — плохая, жена — злая, люди — корыстные..." Сзади стоит ангел с блокнотом и записывает: "Жизнь плохая, жена злая, люди корыстны... Как странно, опять то же самое. Ну что ж, все равно: раз заказывает, то надо исполнять"».
(с) сайт anekdot.ru (некоторые слова заменены, поскольку Дзен счёл их «сниженной лексикой»)
Когда заходит разговор о «цифровом концлагере» и опасностях тотального сбора данных, то обычно поминают всякие зловещие организации (ЦРУ, АНБ и т.д.) и пресловутый китайский «социальный рейтинг». Который китайцы вроде бы уже отменили, как не оправдавший надежд, что неудивительно — рейтинг ведь это всего одно число, оно не даёт и в принципе не может дать о личности столько информации, чтобы на неё можно было хоть как-то опираться и делать на её основе какие-то разумные выводы. Впрочем, даже если таких чисел будет не одна тысяча, этого всё равно совершенно недостаточно. К счастью, современные методы работы с big data (то бишь большими данными) позволяют эффективно обрабатывать огромные массивы сведений о людях.
Предположим, что завтра появился враждебный людям ИИ. К счастью, благодаря множеству фильмов, посвящённых «бунту разумных машин», не только учёные с генералами, но и так называемые обычные граждане отлично знают, чем это грозит и как надлежит действовать в подобном случае. Если совсем просто, то нужно всего лишь отключить зловредный механизм. Ведь в реальности, в отличие от выдуманных ушлыми писателями и сценаристами вариантов будущего, никто не будет делать супер-умную систему без внешнего выключателя и с полностью автономным питанием.
Но мало кто задумывается, что искусственный интеллект, притом не злой, а совсем напротив, самый добрый и благожелательно настроенный по отношению не только к людям в целом, но и к каждому отдельно взятому человеку, может оказаться даже опаснее, чем открыто враждебный. Кое-кто, излишне доверившийся уже существующим, пока что весьма несовершенным моделям нейросетей, уже успел в этом убедиться. Некоторые даже не вынесли разочарования, когда оказывалось, что ты не настолько хорош в чём-то, как тебя уверяла твоя любимая нейросеть.
Однако пока что такие опасности грозят лишь отдельно взятым слишком доверчивым людям. Но вот когда ИИ, предельно дружественный к пользователям, станет повсеместным и всепроникающим… как говорил некогда Карлсон: «Вот тогда-то мы похохочем». Ключевая проблема в том, что ИИ будет брать информацию о каждом из нас в первую очередь из нашей сетевой активности. То есть из наших постов на форумах, в социальных сетях и так далее. Ведь далеко не каждому удаётся (да и не каждый хочет) быть всегда «на позитиве», ни разу не оскорбить собеседника, ни разу не сказать что-нибудь нехорошее о каком-нибудь ресурсе, сервисе, службе или организации. И если сейчас это всего лишь слив негатива, то для дружелюбного ИИ каждый ваш пост станет руководством к действию.
Просто представьте мир, в котором вообще всё сперва в сети, а затем и в окружающей действительности (хотя уже сейчас от стабильности интернета напрямую зависят покупки, доставка купленного, билеты, вызов такси и многое другое) станет в точности таким, как вы об этом пишете в отзывах, на форумах и в социальных сетях. Например, вы недовольны таксистами и часто оставляете о них отрицательные отзывы. ИИ берёт это в расчёт и, чтобы не обманывать ваши ожидания, будет подсовывать лично вам таксистов с самым низким рейтингом. Впрочем, в близком будущем такси станут беспилотными. Ну что же, в таком случае специально для вас такси будет приезжать с опозданием, путать маршруты и так далее. Всё для блага клиента, который ждёт от такси разных подлянок и не хочет, чтобы обслуживание было идеальным. Зачем это нужно клиенту — ИИ не интересует в принципе, он мыслей не читает, а ориентируется на слова самого клиента.
И то же самое буквально во всём, от получения справок и операций с банковскими счетами до разговоров на форумах и социальных сетях. Там предельно дружественный лично к вам ИИ будет скрывать от вас посты, которые могут вас разочаровать, и по максимуму подсовывать вам только таких собеседников, которые полностью соответствуют вашим ожиданиям. А ваши ожидания ему неоткуда взять, кроме как из вашей предыдущей активности на тех же форумах и социальных сетях. Не говоря уже о новостях — разумеется, вы будете видеть только те новости, которые сочтёт наиболее подходящими для вас дружественный ИИ.
Может показаться, что оптимистам в этом дивном новом мире беспокоиться не о чем. Увы, это не так. Начать с того, что стопроцентных оптимистов среди людей не бывает. Кроме того, это сейчас ИИ проще всего анализировать сетевую активность. В будущем, с повсеместным внедрением умных гаджетов, ИИ сможет эффективно анализировать также ваши слова и поступки в обычной жизни. Поругались вы с соседкой — ИИ это запомнит, оценит и поможет. То есть украсит вашу обычную жизнь «случайными» встречами с такими людьми, которые помогут вам сбросить пар через хороший скандал. Да и сам по себе оптимизм может быть разный. К примеру, ИИ может присылать вам только оптимистичные сведения о вашем здоровье, ваших финансах, ваших родственниках, ваших карьерных перспективах, скрывая весь потенциальный негатив. Последствия можете представить сами.