Искусственный интеллект сегодня внедряется в различные устройства и системы. Вместе с этим в Европейском союзе планируют рассмотреть вопрос о полном или частичном запрете на использование ИИ для приложений, видеонаблюдения и других не менее важных сфер жизни.
Почему хотят запретить
У обывателя запрет на использование искусственного интеллекта может вызвать множество вопросов. Однако не стоит забывать, что ИИ сегодня используют повсеместно в системах видеонаблюдения, мониторинга и отслеживания физических лиц в цифровой сфере. Кроме того, ИИ позволяет в автоматическом режиме проводить анализ персональных данных из разных источников.
В Европе планируют запретить именно «массовое наблюдение» за гражданами с использованием искусственного интеллекта. Авторы проекта считают, что такие приложения напрямую могут нарушать права человека.
«Опасный» искусственный интеллект
Если новые правила и запреты примут, то все пользователи ИИ должны будут определить, обладает ли их система «высоким риском». Если говорить простыми словами, все системы с искусственным интеллектом будут проходить тестирование и проверки.
Например, к ИИ с высоким риском планируют отнести:
· Программы, которые позволяют устанавливать приоритет в работе экстренных служб.
· Программы, которые определяют или назначают людей на должности в образовательных учреждениях.
· Системы, задействованные при подборе персонала.
· Программы, которые решают и оценивают кредитоспособность клиентов банка.
· Системы, способные прогнозировать преступления.
В целом данный проект имеет достаточно простое обоснование. Эксперты считают, что современный ИИ имеет слишком много недостатков, поэтому не может пока использоваться в таких сложных цепочках, как поиск преступников или подбор персонала. Правозащитники говорят о том, что программы могут делать ошибки в процессе проведения анализа.
Новый законопроект предусматривает ограничения на использование ИИ в системах наблюдения, мониторинга и анализа в социальных сетях, банковской сфере и других похожих направлениях. Проще говоря – правозащитники планируют ограничить избирательное использование искусственного интеллекта.
Вместе с этим на территории РФ искусственный интеллект применяется в аналогичных сферах. Например, в Москве и некоторых других крупных городах работают системы видеонаблюдения с поддержкой ИИ.
Смогут ли в Европейском союзе ограничить использование ИИ, мы сможем узнать уже в ближайшее время.