Парламентарии указали, что применение средств автоматического принятия решений усиливает дискриминацию: из-за ошибок ИИ чернокожие люди, цыгане и этнические меньшинства задерживаются «непропорционально часто».
Два комитета, отвечающие в Европарламенте за Закон об искусственном интеллекте (AI Act), предложили запретить использование искусственного интеллекта в прогностической полицейской и судебной деятельности. Речь идёт о конкретных физических лицах, предложение не распространяется, например, на видеонаблюдение в районах и местностях в целом.
Европарламентарии указали, что применение систем искусственного интеллекта в прогнозировании усиливают дискриминацию: из-за ошибок ИИ чернокожие люди, цыгане и этнические меньшинства задерживаются «непропорционально часто».
«Данное предложение понятно и последовательно, оно согласуется с уже существующими актами ЕС, например, с тем же GDPR или Директивой по сбору и обработке данных в целях обеспечения правоохранительной деятельности. По сути речь идёт о презумпции невиновности и справедливом суде, — говорит юрист «Роскомсвободы» Никита Истомин. — Принимать решения на основе автоматической (без участия человека) обработки персданных в целом в Европе запрещено. Так что это уже устоявшийся подход».
По словам эксперта, документ предлагает компромисс: ИИ (средство автоматического принятия решений) станет получать данные и выполнять «рутинную» работу, но не будет иметь доступа к данным конкретных лиц. И даже если полиция получит персональные данные, она не сможет использовать их в суде или при вынесении административных решений, так как «в противном случае ей придётся раскрывать, что она использовала ИИ, а это означает признать нарушение поправок, если они будут приняты. Таким образом, работы у правоохранителей не уменьшится, что сведёт ценность применения ИИ к нулю».
Прогностическая деятельность полиции строится на использовании специального ПО, которое после обработки ряда данных высокой долей вероятности предсказывает, где и кем может быть совершено преступление.