Пару лет назад школьников приглашали участвовать в дистанционной олимпиаде, которая называлась «Жизнь в умном городе». В ней рассказывалось об «умных домах», к которых, например, будут установлены «умные счётчики» расхода воды и электричества, которые будут сами каждый месяц передавать информацию в управляющие компании.
«Это же удобно!»
Не надо будет, кряхтя, залезать на табуретку, чтобы добраться до электросчётчика, или вставать на четвереньки, чтобы снять показания счётчика воды, расположенного обычно под раковиной или за унитазом. Не надо напрягать глаза, переписывать цифры на бумажку, потом вводить их на специальной странице в интернете… Удобно?
Конечно, удобно! И вместе с тем – опасно. Почему?
Ну, первая причина очевидна – возможный сбой в системе. (Такой сбой произошёл на днях в системе «Московская электронная школа». Ученики несколько суток не выполняли домашнего задания, потому что «электронный дневник» не работает, а бумажных дневников у них нет!) Вспомним правило: «Всё, что может сломаться, рано или поздно сломается». И тогда получится так: вы израсходовали восемь кубометров воды, а счёт вам выставили за восемьдесят. Но это ещё не самое страшное, с этим рано или поздно разберутся (хотя разбирательство будет стоить вашим родителям немалых нервов). Может быть и хуже!
«Люди врут»
Наверняка вам приходилось попадать в ситуации, когда вас обманывали – причём не какие-нибудь жулики, а «солидные фирмы». Например, берёшь в магазине товар с ценником «скидка», а на кассе оказывается, что никакой скидки нет. Или в интернете предлагают подписаться на страницу с фильмами и сериалами «за рубль в месяц», а в конце месяца списывают с карты триста рублей…
К сожалению, управляющие компании, которым мы перечисляем плату за воду или за электричество, тоже иногда занимаются подобным обманом. Например, в конце года ваша семья получает дополнительный счёт на оплату задолженности. Но вы же платили вовремя, откуда задолженность?
А вот откуда. Некоторые люди подолгу задерживают оплату, и в конце года, когда управляющей компании надо подводить бухгалтерский баланс, у неё не хватает денег. Что делать? Разослать угрожающие письма должникам? А они как не платили, так и не будут платить. И тогда чья-то «умная голова» решает: «А давайте разделим этот долг на всех! Кто-то станет разбираться, а кому-то будет лень, он плечами пожмёт и заплатит! Чтобы не связываться».
И вот представьте: «умный дом» (а на самом деле – управляющая компания) выставляет вам такой жульнический счёт, а банк списывает деньги с вашего банковского счёта по «умной» системе автоплатежей.
Пока система автоплатежей добровольная, её можно не подключать, но кто знает, до чего дойдут люди завтра? Ведь это тоже «удобно» – не помнить, кому, за что и сколько ты должен платить. Взять и перепоручить всё это «умному банку»!
Что такое «бигдата»?
Бигдатой (от английского «big data» – «большие данные») называют компьютерную базу информации, в которой может храниться неопределённо большое количество самых разнообразных сведений. Что вы едите, что пьёте, какую одежду носите, в какие игры играете, какие смотрите фильмы, какие сайты посещаете в интернете, сколько зарабатываете и сколько тратите, как выглядите, где бываете, чем болеете – всё знает «бигдата».
Как составляется эта база данных?
Вы купили мобильный телефон. Чтобы он начал работать, вам необходимо зарегистрироваться на специальном сайте (телефон вам подскажет, на каком). Зарегистрировались? Ага, теперь «бигдата» знает, как вас зовут, знает ваш номер телефона, знает ваш IP-адрес, с которого вы выходите в интернет, а заодно и адрес, по которому вы живёте.
Установили юзерпик со своим лицом? Теперь «бигдата» знает, как вы выглядите. А если у вас на юзерпике животное или робот? Ничего, вам обязательно захочется воспользоваться забавным приложением, которое показывает, как вы будете выглядеть в старости или на какую кинозвезду вы похожи. Для этого вам нужно будет «всего лишь» закачать ваше фото. Вот вы и попались.
Далее: вы скачиваете на телефон разные приложения, – «бигдата» знает, какие. А значит, знает, во что вы играете, что покупаете, чем интересуетесь.
Зарегистрировались на сайте «Госуслуги»? «Бигдата» знает, к каким врачам вы записываетесь, какие заказываете документы, каким владеете имуществом, за которое платите налоги, и так далее.
Оформили загранпаспорт для поездки за границу? Хо-хо, теперь у «бигдаты» есть отпечатки ваших пальцев!
Для чего нужна «бигдата»?
Ну, например, чтобы ловить преступников. Уличная камера слежения зафиксировала лицо преступника – и всё, полиция уже знает его имя, номер телефона, адрес и даже маршруты передвижения (ведь у нашего преступника в телефоне есть навигатор). Удобно? Очень!
Главное, чтобы этот преступник случайно не оказался вашим двойником… А если он был в маске? Специально, пока готовился к преступлению, заказал маску из латекса с вашим лицом! Вы же выкладываете свои фото «ВКонтакте»?
Ещё «бигдата» нужна, чтобы предлагать людям рекламу разных услуг и товаров. Вернее, чтобы производители этих услуг и товаров, заказывая рекламу, были уверены, что эта реклама дойдёт именно до тех, кому их услуги и товары нужны. Тогда будет так: вы посетили в поликлинике окулиста. Тут же на вашем любимом сайте появляется рекламный баннер салона оптики – «купите очки!». Невинная подсказка. А что? Даже удобно!..
А хотите ещё «удобнее»? Пожалуйста! Представьте: вы собираетесь принять участие в выборах, допустим, мэра. Бигдата знает, что условный Петя Коржиков обожает игры-стрелялки, или посещает сайты про оружие, или покупает пнематические винтовки и пистолеты. И пожалуйста: куда бы Петя в интернете ни сунулся, всюду видит рекламу кандидата Иван Иваныча Крокодилова в окружении суровых парней с оружием. «Иван Иваныч Крокодилов за свободное ношение оружия! Он настоящий мужчина!»
«Эге, – думает Петя Коржиков. – Вот он, мой кандидат».
А про Люду Синичкину известно совсем другое – она любит кукол и семейные мелодрамы, жертвует деньги детским благотворительным фондам. Соответственно, Люда получает другую рекламу. На ней Иван Иваныч Крокодилов нежно склоняется над детской коляской, треплет малыша по головке, посещает детский дом, поздравляет молодую мать в роддоме цветами и тортом… Теперь и Люда знает, за кого ей голосовать.
И не надо ни Люде, ни Пете рыться в интернете, выясняя, чем этот Иван Иваныч занимался раньше, какими делами отметился и какова его предвыборная программа. Удобно? Ещё как удобно! «Голосуй сердцем за Иван Иваныча!»
А ведь этот Иван Иваныч ещё в должность не вступил – а уже обманывает. Что же дальше-то будет? М-м?..
Зачем же её вообще выдумали, эту «бигдату»?
Так для удобства же!..
Раньше люди жили в деревнях или в маленьких городках по две-три тысячи жителей. А те, кто жил в больших городах, редко выбирались за границы своего района. Поэтому жители хорошо знали друг друга.
Обманывать в таких маленьких городках было сложновато. Если лавочник обсчитает или обвесит покупателя, тот к нему больше не придёт, да ещё соседям расскажет.
Но теперь всё по-другому. В больших городах живут миллионы людей. И магазины у нас огромные – не магазины, а торговые сети. Кто владелец? Непонятно. Обманули в одном магазине десять человек – ничего! Завтра всё равно ещё тысяча придёт…
Запоминаем правило: малый бизнес ориентируется на постоянного клиента – то есть на человека, который продавца знает и ему доверяет. А крупный бизнес ориентируется на «поток»! То есть на большие массы людей, которые сегодня купят у тебя, а завтра где-нибудь ещё, а на их место придут другие.
Но и крупный бизнес хочет завлечь «поток» побольше, погуще. Для этого нужно знать, каковы предпочтения покупателей, что им нравится, что не нравится, чем их привлечь. Вот тут-то и приходит на помощь «бигдата».
Иван Иванычу Крокодилову, чтобы его выбрали, тоже нужно знать своих выборщиков. Что им пообещать?
Есть, конечно, социологические опросы, но это штука ненадёжная. Например, спрашиваем: кто ваш любимый композитор? Людям хочется выглядеть получше, и они отвечают: Чайковский и этот… Бах! (А на самом деле – Стас Михайлов и Клава Кока.) В отличие от социологических опросов, данные, считанные с банковской карточки, не врут. Что человеку на самом деле нравится, то он и покупает.
«Цифровое рабство»
Помогая человеку делать то, с чем человек и сам мог бы справиться, искусственный интеллект не делает людей сильнее. Он делает их слабее!
Ну, например. Тебе не продали билет в «Лунапарк», потому что у тебя не закрыта двойка по контрольной... Правильно ли это?
Родители и учителя обязательно постараются помочь тебе исправить положение. А бигдата этим заниматься не будет. Ей это не нужно. Твоя личность для неё значения не имеет. Напоминаем: современные компании не борются за каждого отдельного клиента – они борются за поток. Не вписался ты в наш «Лунапарк» – ну и не надо, желающих ещё во-о-он сколько...
Получается, что и двойку исправлять незачем – надо просто усвоить, что «Лунапарк» – не для тебя. Это для «хороших» детей, а ты – второй сорт, неудачник…
Умницами и отличниками тоже можно манипулировать: «Сделай то, если хочешь повысить рейтинг! Сделай это, если хочешь попасть в особую программу, участники которой на льготных условиях поступают в вуз!»
В одном городе (не будем показывать пальцем) детей заставили ответить на «сорок вопросов о семье»: «Давно ли у вас был ремонт? Сколько продуктов у вас в холодильнике? Часто ли родители разговаривают с тобой о твоих проблемах?»
Лучик:
Этак можно спросить «Ругают ли твои родители правительство?»
Крит Критыч:
Да что угодно можно спросить! А потом, в зависимости от ответов, не принять этих родителей на работу или, наоборот, уволить с работы…
Подведём итог
В статье о том, как создавались нейросети и «искусственный интеллект», мы уже говорили о том, в каких обстоятельствах компьютеризация может оказаться опасной для человека. Повторим…
Компьютер полезен, когда выполняет работу, которую человек выполнить не может. Но когда он выполняет за человека ту работу, которую человек способен выполнить сам, он становится опасен.
Сама по себе цифровизация не плоха и не хороша. Это инструмент, вроде ножа. Всё зависит от того, для чего он применяется и в чьих он руках. Ножом можно приготовить салат или бутерброд, можно вырезать свистульку для ребёнка. А можно с тем же самым ножом в тёмном переулке кошельки отнимать!
Люди не доверяют искусственному интеллекту, когда он вмешивается в их частную жизнь. Если кто-то знает о тебе всё (или много), а ты о нём – ничего (или мало), это значит, что этот кто-то тобой управляет. А ты перед ним беспомощен!
Люди не любят чувствовать себя беспомощными. Когда человек беспомощен перед компьютером, это называется «цифровым рабством».
Лучик:
Почему же люди не протестуют? Почему не требуют, чтобы к ним искусственный интеллект не применяли?
Во-первых, среди нас всегда немало людей, для которых комфорт дороже свободы. А во-вторых, людей просто запугивают. Терактами, эпидемиями… Кто не хочет обменять свободу на комфорт, тот обменяет её на безопасность. Но это совсем уже взрослый разговор, Лучик.
Лучик:
Неприличный?
Нет, долгий и непростой…
Читайте также:
Как создавали «искусственный интеллект» – и что из этого получилось
Журнал "Лучик" можно выписать для детей на сайте Почты России
Можно заказать свежий номер на Wildberries
Можно полистать старые журналы здесь