Тема, которая мне лично кажется жутко интересной, — то, как компьютерные алгоритмы все сильнее влияют на нашу жизнь и судьбу

Тема, которая мне лично кажется жутко интересной, — то, как компьютерные алгоритмы все сильнее влияют на нашу жизнь и судьбу. Иллюстрация из Нью-Йорка, где в суде проводят эксперимент с алгоритмом, который подсказывает судье, нужно ли отправлять подозреваемого за решетку на время следствия или можно отпустить под залог.

Несколько лет назад исследователям отдали массив из 1,6 млн дел с 2009 по 2015 год и предложили создать алгоритм, который будет предсказывать вероятность того, что отпущенный под залог уклонится от явки в суд. Соответственно, если риск высокий, то лучше поместить обвиняемого в американский СИЗО.

Анализ выявил несколько закономерностей, как очевидных так и не очень. Например, оказалось, что человек, который при задержании добровольно называет полицейскими адрес и телефон, с большей вероятностью не сбежит из-под залога (вроде бы логично, но раньше на эту закономерность особо не обращали внимания).

Теперь система, анализируя данные обвиняемого и его дела, выдает рейтинг от 1 до 25 — чем выше, тем лучше. Принимает решение все равно судья, но он в том числе ориентируется на рейтинг. Условно, рецидивист с рейтингом 25 может избежать ареста (и такие случаи были), а впервые совершивший преступление с рейтингом 1 — сесть.

Предполагается, что система более объективна, чем живой судья, и меньше подвержена расистским и социальным стереотипам. Впрочем, в этом уверены не все — обучали-то ее на старых делах, которые несут в себе отпечаток этих самых стереотипов. Но пока статистика показывает, что приоритета белым система действительно не отдает.

Все это, конечно, дико интересно. И тревожно. Готовы ли мы к тому, что нас будут судить роботы? Отдали бы вы свою судьбу в руки алгоритма? Что лучше — коррумпированный, но все-таки человечный судья, или хладнокровный робот? Будут ли такие алгоритмы подвержены имманентным порокам национальных судебных систем? Будет ли, например, российский алгоритм кровожаднее алгоритма голландского?

Вообще, можно представить, что через несколько лет в России созданием такого алгоритма займется — ну, кто? Какой-нибудь «Ростех», а если повезет, то «Сбербанк». Если совсем повезет, то «Яндекс». Научатся ли адвокаты и обвиняемые обманывать этот алгоритм? Можно ли будет занести кому надо денег, чтобы подправить свои данные и получить высший рейтинг? Если мы не доверяем выдаче «Яндекс.Новостей», то кто поверит «Яндекс.Судье»? С другой стороны, разве может быть доверие суду ниже, чем оно есть сейчас?

Некоторое время назад я для «Семинара фантастического письма» написал рассказик об алгоритме, который формирует государственные бюджеты и таким образом определяет судьбы целых городов. Но это пока еще дело будущего, а алгоритм-судья — уже почти здесь.