Европарламент одобрил первый в мире закон, который устанавливает правила использования искусственного интеллекта. В частности, он запрещает считывать эмоции у сотрудников, создавать базы для распознавания лиц и вмешиваться в проведение выборов. А за нарушение грозят многомиллионные штрафы. Об этом сообщается на сайте Европарламента.
Постановление одобрено 523 депутатами Европарламента, 46 голосами против и 49 воздержались.
«Регламент устанавливает обязательства в отношении ИИ, исходя из его потенциальных рисков и уровня воздействия. Новые правила запрещают определенные приложения искусственного интеллекта, которые угрожают правам граждан», — поясняют в парламенте.
В частности, теперь под запретом нецелевое извлечение изображений лиц из Интернета или записей с камер видеонаблюдения для создания баз данных распознавания лиц, системы для оценки эмоций на рабочем месте и в школах и для составления социальных рейтингов.
Запрет касается и полицейской деятельности, если она «основана исключительно на профилировании человека или оценке его характеристик». Использовать системы биометрической идентификации в режиме реального времени можно только по предварительному судебному или административному разрешению, и только со строгими ограничениями по безопасности: в определенное время в конкретном месте.
«Такое использование может включать, например, целенаправленный поиск пропавшего человека или предотвращение террористической атаки. Использование таких систем постфактум считается вариантом использования с высоким уровнем риска, требующим судебного разрешения, связанного с уголовным преступлением», — разъясняют в Европарламенте.
Отдельно оговариваются ИИ с повышенным уровнем риска, например, связанные с критически важной инфраструктурой, образованием, сферой занятости, основными частными и государственными услугами, а также с правосудием, вопросами миграции и преодоления границ, выборами. Их возможно применять, но с оценкой рисков, необходимо вести журналы использования, цели должны быть прозрачными и четкими, и при этом необходим контроль со стороны человека. На такие системы ИИ граждане вправе подавать жалобы и получать разъяснения по поводу решений, основанных на данных нейросетей, если это затрагивает их права.
При этом поднимается и вопрос об информационной безопасности. Так, запрещено использовать искусственный интеллект, который манипулирует поведением человека или использует его уязвимости. Сгенерированные нейростью или обработанные изображения, аудио- или видеоконтент должны быть четко обозначены как дипфейк.
Разработчики теперь обязаны публиковать подробные обзоры контента, используемого для обучения систем искусственного интеллекта общего назначения. При этом материалы должны соответствовать определенным требованиям прозрачности, включая соблюдение закона ЕС об авторском праве. А для более мощных моделей, которые могут представлять системные риски, выдвинуты дополнительными требованиями, включая оценку и смягчение системных рисков, а также отчетность об инцидентах.
Нарушение запретов ведет к штрафу до €35 млн. А если нарушителем является предприятие, то штраф составит эту сумму или до 7% мирового дохода за предыдущий финансовый год, в зависимости от того, что больше.
Чтобы новым игрокам рынка было проще соблюдать все правила, будет создан специальный офис, где модели ИИ будут проверять на соответствие требованиям до выпуска на рынок.
Однако, на сайте Европарламента отмечают, что пока закон не вступил в силу. Постановление еще подлежит юридической проверке, но все процедуры в парламенте должны завершиться в ближайшее время. Затем его ждет утверждение в Совете ЕС. Закон вступит в силу через 20 дней после официальной публикации и будет полностью применим через 24 месяца после вступления в силу, за исключением ряда позиций.
Предложен способ «посадить на цепь» искусственный интеллект
Нейросети: как далеко может зайти искусственный интеллект и нужно ли его остановить?
Чат-боты с ИИ используют расистские стереотипы даже после антирасистского обучения