Депутаты Европарламента большинством голосов приняли резолюцию о необходимости введения в ЕС полного и постоянного запрета на автоматическое распознавание лиц в общественных местах, так как подобные системы «нарушают неприкосновенность частной жизни и человеческое достоинство». Запрет также должен быть введен на создание любых систем социального рейтинга, прогнозирования преступлений и использование алгоритмов в судебной сфере.
Парламент также призвал запретить использование частных баз данных по распознаванию лиц, таких как система искусственного интеллекта американского стартапа Clearview (ее уже используют полицейские отдельных стран Европы), и объявить вне закона любые системы прогнозирования правонарушений, основанные на поведенческих данных.
Еще в апреле Еврокомиссия представила законопроект о регулировании использования технологий искусственного интеллекта с высокой степенью риска, который включал запрет на социальную оценку и принципиальный запрет на использование удаленного биометрического наблюдения в общественных местах. Однако Европейский совет по защите данных и Европейский надзорный орган по защите данных, а также ряд депутатов Европарламента сочли законопроект недостаточно проработанным.
В резолюции, принятой Европарламентом большинством голосов, в части о дистанционном биометрическом наблюдении содержится следующий призыв к Еврокомиссии:
… Необходимо запретить любую обработку биометрических данных, включая изображения лиц, в правоохранительных целях, ведущую к массовому слежению в общедоступных местах; Еврокомиссия должна прекратить финансирование биометрических исследований или развертывание программ, которые могут привести к неизбирательному массовому наблюдению в общественных местах.
Создание любых систем социального рейтинга, которые стремятся оценивать надежность граждан на основе их поведения или личности, должно быть также запрещено.
Резолюция направлена также на борьбу с алгоритмической предвзятостью и призывает к обязательному сильному надзору со стороны человека-оператора за работой алгоритмов с целью предотвращения дискриминации со стороны ИИ, особенно в работе правоохранительных органов и в контексте пересечения границ.
Депутаты Европарламента согласились с тем, что люди-операторы всегда должны принимать окончательные решения, заявив, что субъекты, контролируемые системами на базе искусственного интеллекта, должны иметь доступ к средствам правовой защиты.
Из резолюции следует, что для обеспечения соблюдения основных прав человека алгоритмы, использующие систем идентификации на основе ИИ, которые часто неверно идентифицируют этнические меньшинства, ЛГБТИ-людей, пожилых и женщин, должны быть прозрачными, отслеживаемыми и достаточно документированными.
Резолюция парламента призывает и к введению запрета на ИИ-помощников при принятии судебных решений - попытки внедрения таких алгоритмов в системе уголовного правосудия (в первую очередь при вынесении решений о досрочном освобождении осужденных) выявили многочисленные факты дискриминации нацменьшинств со стороны ИИ.
Европарламент также призвал госорганы ЕС использовать программное обеспечение с открытым исходным кодом везде, где это возможно.
Комментируя принятие резолюции, докладчик Петар Витанов сказал: «Основные права безусловны. Впервые мы призываем к мораторию на развертывание систем распознавания лиц в правоохранительных целях, поскольку эта технология оказалась неэффективной и часто приводит к дискриминационным результатам. Мы категорически против прогнозирующей полицейской деятельности, основанной на использовании ИИ, а также против любой обработки биометрических данных, ведущей к массовому слежению. Это огромная победа для всех граждан Европы».
***
Хайтек+ уже много месяцев входит в 30-ку лучших каналов Дзена. Подписывайтесь и рекомендуйте нас друзьям.
Еще у нас есть телеграм-канал Хайтек+, где оперативно выходят самые интересные новости науки и технологий. Если пользуетесь телегой - обязательно подпишитесь и сможете видеть больше наших материалов.