Возможно, что вы слышали об итальянском психиатре по имени Чезаре Ломброзо (1835 – 1909). Он выдвинул идею о том, что преступника можно определить по внешности. Согласно его гипотезе преступников отличают специфические морфологические особенности: покатый лоб, ассиметричные черты лица, длинные руки и др.
Впоследствии гипотеза Ломброзо была отвергнута, как ненаучная.
Но в 2011 году американские ученые обнаружили, что люди способны с высокой вероятностью отличать лица преступников от лиц законопослушных граждан по фотографиям. Это позволило предположить, что достоверные различия между этими группами людей существуют, хотя их природа неясна.
Не так давно я узнал о разработке исследователей из Шанхайского университета, которые смогли создать нейронную сеть, которая способна определять преступника по лицу. Новость не свежая, результаты были опубликованы в 2016 году, но я хочу поразмышлять о сути и возможных последствиях этого эксперимента.
В ходе работы авторы использовали 1 856 монохромных паспортных фотографий китайских мужчин в возрасте 18–55 лет. Половина мужчин в прошлом совершили различные преступления. В выборку были включены люди различных профессий и социального статуса, при этом они не имели явных опознавательных признаков, например шрамов или растительности на лице.
90% представленных снимков использовались для обучения нейронной сети. Оставшиеся — были проверочными.
Результаты проверочного этапа показали — алгоритм нейронной сети верно распознает лица преступников в 89,5 процентах случаев (в 9 из 10 случаев).
Научная работа в последней редакции опубликована на arXiv.org.
Искусственный интеллект, по сути, подтвердил предположение Чезаре Ломброзо о том, что у всех людей с криминальным прошлым есть что-то общее — структура лица, форма губ, то, под каким углом ко рту расположен нос.
Ряд других исследователей не увидели в этой разработке ничего прогрессивного, а подобные эксперименты сочли даже опасными.
В самом деле — куда могут завести подобные исследования?
В Китае уже несколько лет функционирует скоринговая система, искусственный интеллект которой определяет «социальный рейтинг» каждого гражданина.
Эта система на основе анализа данных о своевременной оплате счетов, предпочтениях в интернет-покупках и даже о количестве негативных комментариев в социальных сетях формирует социальный рейтинг каждого гражданина. Тот, в свою очередь определяет, его благонадежность, и, как результат, возможность доступа к общественным благам.
Гражданам с высоким рейтингом искусственный интеллект увеличивает кредитные лимиты в банках, разрешает арендовать автомобили без залога, делает доступными VIP-чекины в аэропортах и дает доступ к прочим благам.
А вот граждан с низким социальным рейтингом искусственный интеллект «наказывает». Спектр инструментов весьма широк: от «замедления» скорости интернет-соединения до ограничения в занятии определенными профессиями!
Теперь представьте, что в эту систему загрузят вышеуказанный алгоритм, разработанный учеными Шанхайского университета, и «допиленный» за минувшие годы.
Есть риск, что проанализировав фото всех граждан Китая, ИИ понизит социальный рейтинг некоторых из них с добавлением пометки «имеет наклонность к нарушению законов».
А потом наработки китайцев начнут использовать другие страны.
Как результат — наложение ограничений на этих граждан, даже если никакого (!) криминального прошлого за ними не значится.
Т. е. наказание будет следовать до преступления. И применять его будет не государство, а искусственный интеллект.
Но может ли искусственному интеллекту принадлежать моральное право определять «правила игры» и устанавливать меру наказания за их нарушение? Причем наказание не только за уже совершенное правонарушение, но и за гипотетически возможное. Потому, что черты лица — преступные.
Пока что звучит фантастично и неправдоподобно.
Но искусственный интеллект, присваивающий социальный рейтинг каждому гражданину с последующими поощрениями либо ограничениями в правах, уже реальность (пока только в Китае). Хотя и это еще вчера казалось фантастикой.
Понравилась статья?
- Ставьте лайк, поделитесь статьей в социальных сетях и подпишитесь на канал «Время и Право», чтобы не пропустить новые материалы