- Да где уж тебе, - злорадно сказал Роберт. – Это эмоции, Патрик! Знаешь?... Как бы тебе это попроще, попонятнее?... Ну, не вполне алгоритмируемые возмущения в сверхсложных логических комплексах. Воспринял?
Аркадий и Борис Стругацкие
Несколько лет назад мой муж прочитал мне статью об эксперименте введения социального рейтинга в Китае. Предполагалось, что люди будут повышать свой рейтинг за какие-то поступки, а за какие-то - понижать. Гражданин с высоким рейтингом будет иметь льготы, например, низкий процент при кредите. А человеку с низким рейтингом будет ограничено проживание в некоторых районах, поступление детей в школы, запретят покупать билеты на самолёты и поезда, идущие ночью (т.е. практически все поезда дальнего следования).
Уже миллионы китайцев не пускают на поезда дальнего следования и самолёты, а некоторых - и за границу из-за низкого рейтинга. При этом вычисление рейтинга "непрозрачно" для человека, а иногда и не очевидно. Имеются случаи, когда в неблагонадёжные попадали люди совершенно не ясно за что.
Во все времена у человека была какая-то возможность начать жить заново. Небольшие проступки забывались или прощались, иногда можно было просто уехать. При этом имелась и некоторая приватность - частная жизнь, когда переписка не читалась "роботом", задача которого "втюхать" очередное фуфло, а тем более - определять социальный рейтинг...
Китай впереди, но остальной мир старается не отставать. Многие смартфоны постоянно онлайн. Они отправляют кучу данных, которые хранятся и перепродаются. Самое безобидное использование, с которым вы наверняка знакомы, - для рекламы (кто-то же должен платить за "бесплатное"). Эти данные накапливаются и накапливаются в Bigdata (Большие данные). Постепенно мы приближаемся к цифровой диктатуре. Большие данные начинают заметно давить на простого человека во многих частях мира - что подвигло меня на работу - "BIGDATA control".
Уже нормой стало использование слабого искусственного интеллекта (ИИ): алгоритмы вычисляют примерные критерии попадания в нужный список или под ограничения. Иногда даже создатели не знают, почему, например, в изображения, трактуемые ИИ как "котики", попадают картинки с собачкой.
Корпорации и государства начали использовать слабые ИИ, но его решения влияют на простых людей. При этом зачастую работа программ неидеальная. Управление судьбами людей отдаётся бездушным машинам, поскольку последние считаются более объективными и незаинтересованными. Однако результаты работы алгоритмов не до конца понятны даже программистам. Добро и зло - вечная дилемма человечества. Как правильно поступить? Наши ум и сердце должны нам помогать. Теперь же получается, что люди передают ответственность за свои решения алгоритмам.
В древности люди поклонялись обожествлённым звёздам... Сейчас же начали звёздами называть и алгоритмы. В стороне не остался и Яндекс - алгоритм Альфа Центавра. Но всё же новые боги - не Бог, а лишь кремниевые истуканы! В моей работе "Алгоритмический идол" люди приносят в жертву собственную человечность.
Жертвуя алгоритмам сердце и разум, что остаётся человеку? Когда и в глаза не глянуть оппоненту, и слова не сказать...
Авторы - Ирина Александровна Лямшина, Илья Николаевич Лямшин