В среду парламент одобрил Закон об искусственном интеллекте, который обеспечивает безопасность и соблюдение основных прав, одновременно стимулируя инновации.
Постановление, согласованное на переговорах со странами-членами в декабре 2023 года, было одобрено депутатами Европарламента 523 голосами за, 46 против и 49 воздержавшимися.
Целью проекта является защита фундаментальных прав, демократии, верховенства закона и экологической устойчивости от высокорискованного искусственного интеллекта, а также стимулирование инноваций и утверждение Европы в качестве лидера в этой области. Регламент устанавливает обязательства в отношении ИИ, исходя из его потенциальных рисков и уровня воздействия.
Закон ЕС об искусственном интеллекте представляет собой подход, основанный на оценке рисков. Это означает, что он предъявляет более строгие требования к системам искусственного интеллекта, которые представляют более высокий риск для здоровья, безопасности и основных прав человека.
Запрещенный ИИ
Закон ЕС об искусственном интеллекте запрещает разработку, развертывание и использование определенных систем искусственного интеллекта, в том числе:
- Системы оценки социального кредита
- Биометрическая идентификация в реальном времени в общественных местах (за исключением ограниченных, предварительно разрешенных ситуаций)
- Системы искусственного интеллекта, которые используют уязвимости людей (например, возраст, инвалидность)
- Системы искусственного интеллекта, которые манипулируют поведением людей или обходят их свободную волю.
Системы искусственного интеллекта с высоким риском
Системы искусственного интеллекта с высоким риском — это те, которые представляют значительный риск для фундаментальных прав или безопасности. К ним относятся системы искусственного интеллекта, используемые в:
- Медицинское оборудование
- Транспортные средства
- Подбор персонала, управление персоналом и персоналом.
- Образование и профессиональная подготовка
- Влияние на выборы и избирателей.
- Доступ к услугам (например, страхованию, банковскому делу, кредиту, льготам)
- Управление критической инфраструктурой
Ключевые требования к ИИ высокого риска
Поставщики и пользователи систем искусственного интеллекта высокого риска должны соблюдать ряд требований, в том числе:
- Проведение оценки воздействия на фундаментальные права и оценки соответствия.
- Регистрация системы в общедоступной базе данных ЕС.
- Внедрение системы управления рисками и менеджмента качества.
- Реализация мер по управлению данными (например, смягчение предвзятости, репрезентативные данные обучения)
- Обеспечение прозрачности (например, инструкции по использованию, техническая документация)
- Обеспечение человеческого контроля (например, объяснимость, проверяемые журналы, участие человека в процессе)
- Обеспечение точности, надежности и кибербезопасности (например, тестирование и мониторинг)
Системы ИИ общего назначения
Системы искусственного интеллекта общего назначения (GPAI) — это системы, которые можно использовать для широкого круга задач без необходимости существенного переобучения. Закон ЕС об искусственном интеллекте предъявляет четкие требования к системам GPAI, в том числе:
- Прозрачность (например, техническая документация, данные обучения, ограничения, авторские права и гарантии)
- Дополнительные требования к высокоэффективным моделям с системным риском (например, оценки моделей, оценки рисков, состязательное тестирование, отчеты об инцидентах)
Штрафы и взыскания
Закон ЕС об искусственном интеллекте предусматривает серьезные наказания за нарушения, в том числе:
- До 7% мирового годового оборота или 35 миллионов евро за запрещенные нарушения ИИ
- До 3% мирового годового оборота или 15 миллионов евро за большинство других нарушений.