Почему европейские IT-компании просят заморозить закон об ИИ

Недавно стало известно, что технологические гиганты, включая Alphabet и Apple, через лоббистскую группу CCIA Europe призвали ЕС временно приостановить действие закона об искусственном интеллекте.

Все говорят про закон об ИИ, но никто его не называет. Речь об Artificial Intelligence Act. Именно этот закон европейские IT-компании просят задержать для реализации. И, если честно, я в смешанных чувствах.

С одной стороны, хочется помочь коллегам по цеху – он действительно ограничивает развитие новых проектов, однако, с другой стороны, в СМИ, возможно, специально не раскрывают детали этого закона. Если кратко, он должен помогать использовать ИИ более качественно, а не ограничивать стартапы.

Четыре уровня риска при применении ИИ

1. Неприемлемый риск — полный запрет (например, соцрейтинг, как в Китае, манипуляции сознанием).
2. Высокий риск — можно, но с контролем (например, ИИ в медицине, образовании, суде).
3. Ограниченный риск — нужны минимальные требования (например, чат-боты должны сообщать, что они не люди).
4. Минимальный риск — почти без ограничений (например, фильтры спама).

Технически фишка закона — это регуляция использования ИИ, а не самой технологии. Понятно, что стартапам хочется всего и сразу. Например, чтобы ИИ мог определять рак лёгких по рентгеновским снимкам – дело благородное, однако это попадёт под «высокий риск» согласно закону и требует человека.

Потому что даже такой благородный ИИ может делать ошибки. И вот, чтобы хоть как-то сократить эти ошибки (а они точно будут и могут влиять на человеческую жизнь), был принят соответствующий закон, который так или иначе обяжет нести ответственность за свою разработку.

Пример с лёгкими я высосал из пальца – но он наиболее точно описывает проблему. Разработчики перед внедрением в больницы своего продукта будут проводить более тщательные исследования и поставят в качестве допконтроля человека. Всё это благодаря этому закону.

Если бы закона не было, был бы один ИИ – и он непременно бы пропустил пару раковых лёгких… Закон нужен, чтобы разрабы делали свой софт с ответственностью, а не тяп-ляп — и в продакшн.