Новость уже облетела все каналы, пока я работала да участвовала в совещаниях, она перестала быть тем, что называют breaking news.
Еще раньше с презентацией подобного нововведения выступил Китай, а нам казалось, что Китай -это далеко, другая цивилизация, иная реальность. Но инициатива докатилась.
Социальный рейтинг - это рейтинг законопослушности гражданина и его полезности для общества. Рассчитывать этот рейтинг планируется посредством искусственного интеллекта. За гражданином хотят ежеминутно наблюдать: как он выходит из метро, курит ли или бегает по вечерам, кричит ли на детей или нет, какой образ жизни ведет, замечен ли в пивом у своего подъезда.
И влиять этот рейтинг будет на доступность к социальным благам: хочешь , что бы листок нетрудоспособности оплачивали в полном размере - следи за своим здоровьем, хочешь получать путевки на юг для себя и детей, будь любезен, не травмируй их в течение года, одевай тепло и не провоцируй респираторных инфекций. Это, разумеется, конечная стадия проекта, пока он является даже не пилотным, а находится в процессе разработки.
Как отметил депутат Госдумы Станислав Наумов : "Система социального рейтинга поможет государству определить, кто из россиян «пьяница, отщепенец, неопрятный человек», а кто ударник труда, семьянин, преуспевающий специалист или предприниматель. Благодаря подобным технологиям власти смогут поощрять ведущих здоровый образ жизни и тех, кто работает". То, что Наумов является политологом и высказывает подобные идеи не прибавляет уважения к нему.
По сути, он лоббирует очередной это эксперимент над людьми, вдохновившись политической стороной антиутопий.
Помню, как-то в Петербурге обсуждали возможность пересадки матки от одной женщине к другой. Врачи не допустили подобного эксперимента, объявив его экспериментом над человеком, так как все свой функции орган бы после пересадки потерял и ничего, кроме каких-то научных опытов не принес. Разговоры так и остались разговорами. И хорошо, и правильно, что еще менее двадцати лет назад эксперимент над людьми сочли недопустимым.
За эти неполные двадцать лет в головах щелкнул какой-то предохранитель и все фонтанирующие идеи хлынули на трибуны.
В рамках эксперимента по внедрению социального рейтинга студентам и преподавателям одного из российских ВУЗов предлагается регистрироваться на электронной платформе, где скоринг-код (соцрейтинг) привязывается к персональным данным (паспорт, СНИЛС, ИНН). Рейтинг студентов ведется в двух измерениях: «социальный статус» и «социальный уровень». Первый отражает уровень заслуг гражданина перед обществом, страной, второй – уровень потенциальной полезности человека в будущем.
Все это напоминает какие-то антиутопии, жить в которых мрачно и совсем нет желания. Но, как меня бы поправили психологи: в идеальном мире этого нет. А мы живем здесь и сейчас.
Станислав Наумов продолжил: "Мы смотрим, как ведут себя наши знакомые, коллеги, соседи и невольно оцениваем их. Один — пьяница, отщепенец, неопрятный человек, а другой — ударник труда, семьянин, успешный специалист или предприниматель. <...> Государство будет поощрять тех, кто ведет здоровый образ жизни, работает, создает семью, исполняет гражданский долг. Те, кто этого не делает, никак наказываться, конечно, не должны, все их права сохраняются, но и бонусов они не получат. При этом ничто не мешает перейти из группы в группу".
Бонусов граждане не получат. То есть пособий и государственных гарантий.
Станислав Наумов попытался приравнять социальный рейтинг к кредитному рейтингу, сообщив, что банки же обмениваются информацией и это защищает их от недобросовестных заемщиков. А сколько ошибок содержится в этих кредитных историях! Подошел возраст, поменял человек паспорт, а девочка в кредитном агентстве забыла вписать цифры. И вот ошибка, и вот документы вызывают сомнения.
Или мальчик допустил погрешность при обучении искусственного интеллекта и появилась системная ошибка. Кто ее и в течении какого времени выявляет?
А какие слова слышит конечный потребитель: у нас сбой!!!! в компьютерах. Вы хотели бы постоянно терпеть неудобства из-за "сбоя"? Ладно, кредит берут не каждый день и даже не каждый месяц.
Кто же сказал, что намного более масштабный эксперимент обойдется без ошибок и ложных толкований действий человека!
И ведь под социальный рейтинг попадут именно малообеспеченные слои населения: у кого нет автомобиля, которые обращаются за пособиями и требуют соцгарантий. В личном автомобиле и в личном коттедже легче спрятаться от назойливых нейросетей. А вот в метро и во дворе многоквартирного дома сделать это намного сложнее.
Учитывая прижившиеся традиции кумовства в России , можно с уверенностью предположить, что социальный рейтинг послужит в будущем неким поводком "для «низших сословий России». Для правящего сословия будут «иные принципы (лояльность покровителю), иные правила (не трогай своих, чернь можно), иные рейтинги (доступ в кабинеты власти), иные наказания», выразил свое мнение историк, блогер Максим Шевченко.
Госдума призывает не политизировать технический и технологический прогресс, пытается показать положительные стороны слежки за людьми.
Ладно, слежки. Оценки людей по результатам этой слежки и предоставления им доступа к социальным благам.
Отбросив эмоции, приняв проект за свершившееся, у меня саднит: кто ответит за ошибки в обучении искусственного интеллекта, каким образом будут выявляться эти ошибки и какую компенсацию смогут получить люди, ставшие жертвами ошибок? И кто сможет установить социальные критерии?
Недавний случай. Обучение искусственного интеллекта в ортопедии прошло с ошибками. Погрешность составила три миллиметра. Итог - пациент никогда не сможет ходить. Но это медицина, еще неизвестно, был ли шанс у пациента без вмешательства искусственного интеллекта. И статья не об этом.
А вот как найти социальные критерии, которые должна научиться оценивать нейросеть? Умный и образованный человек не всегда захочет брать на себя эту ответственность.