Долгое время использование искусственного интеллекта (ИИ) никак не регулировалось, но ситуация кардинально изменилась. На международном уровне (в первую очередь благодаря принятому в ЕС Закону об ИИ / EU AI Act, нормы которого полноценно вступили в силу) сформировался жесткий список сфер, где применение ИИ категорически запрещено из-за «неприемлемого риска» для прав и свобод человека.
В этих областях закон ставит жесткий блок, а за нарушение корпорациям грозят колоссальные штрафы (до 35 млн евро или 7% от мирового оборота).
1. Контроль сознания, манипуляции и уязвимости
Запрещено использовать ИИ для скрытого воздействия на психику человека с целью изменить его поведение в опасную для него сторону.
- Сублиминальные (подсознательные) техники. ИИ-системы, использующие скрытые аудио- или визуальные сигналы, которые человек не осознает, чтобы заставить его принять нужное решение (например, скрытые триггеры в приложениях для покупок или ставках).
- Эксплуатация уязвимостей. Категорически запрещен ИИ, который использует возраст (дети, пожилые люди), физические или ментальные недостатки, а также тяжелое экономическое положение людей для манипулирования ими.
Пример: ИИ-игрушка, которая вступает в доверие к ребенку и в процессе игры побуждает его выполнять опасные для жизни задания.
2. Социальный скоринг (системы «социального рейтинга»)
Запрещено оценивать, классифицировать или ранжировать людей на основе их повседневного социального поведения или личных качеств, если это ведет к ущемлению их прав в других сферах.
- Государственные или частные системы не имеют права использовать ИИ, чтобы выставлять гражданам «баллы благонадежности», из-за которых человека могут урезать в правах (например, отказать в выдаче пособия, субсидии или медицинской помощи просто потому, что алгоритму «не понравилось» его поведение в соцсетях).
3. Биометрия, слежка и распознавание эмоций
Это один из самых строго регулируемых блоков. ИИ закрыт доступ к тотальной слежке и анализу чувств.
- Распознавание эмоций на работе и в учебе. Запрещено использовать ИИ (через веб-камеры или анализ голоса), чтобы определять эмоциональное состояние сотрудников в офисе или студентов на лекциях. Работодатель не может оценивать эффективность или лояльность сотрудника по тому, «насколько грустным или злым» его видит нейросеть.
- Категоризация по чувствительным данным. Запрещено использовать биометрические данные для автоматического деления людей на группы по расе, политическим взглядам, религии, сексуальной ориентации или членству в профсоюзах.
- Массовый парсинг лиц. ИИ-системам запрещено бесконтрольно «выкачивать» изображения лиц из интернета или записей камер видеонаблюдения (CCTV) для создания и расширения баз данных распознавания лиц (как это делали некоторые скандальные стартапы).
- Удаленная биометрическая идентификация в реальном времени. Запрещено использовать ИИ на улицах для мгновенного распознавания лиц полицией. Исключение: предотвращение терактов, поиск пропавших детей или отслеживание подозреваемых в тяжелых преступлениях, но только по решению суда.
4. Пророчество преступлений (Предиктивная полиция)
- Запрещено использовать ИИ для прогнозирования того, совершит ли конкретный человек преступление в будущем, основываясь только на его профилировании, чертах характера или прошлом поведении. Судить и оценивать риски можно только на основе объективных, верифицируемых фактов, подтвержденных человеком.
Сферы «высокого риска» (Не запрещено, но под жесточайшим контролем)
Есть области, где ИИ использовать можно, но каждая система обязана пройти жесткую сертификацию, иметь «рубильник» для ручного контроля человеком и полную прозрачность алгоритмов:
- Критическая инфраструктура (управление светофорами, авиасообщением, электросетями).
- Образование (ИИ, который распределяет студентов по вузам или автоматически оценивает экзамены).
- HR и найм (алгоритмы, которые автоматически отсеивают резюме кандидатов).
- Правосудие (ИИ-помощники для подготовки судебных решений).