Внедрение ИИ в умные города будет стандартизировано

В Новосибирске разработали проект госстандарта по оценке рисков внедрения искусственного интеллекта

Специалисты Центра искусственного интеллекта Новосибирского госуниверситета разработали проект госстандарта, предполагающий гуманитарную экспертизу с оценками рисков и возможностей, которые получает человек при массовом внедрении разработок в сфере искусственного интеллекта.

Гуманитарная экспертиза — это мультидисциплинарное исследование, которое использует методы различных наук для анализа и оценки информации, проблем и явлений, связанных с человеком и обществом, а в данном случае во взаимодействии человека с искусственным интеллектом.

Проект госстандарта «Гуманитарная экспертиза внедрения систем ИИ в практики развития умных городов» в случае одобрения может стать первым регламентирующим документом в международной практике, в котором будет учтена гуманитарная составляющая ИИ-проектов.

Сейчас проекты по искусственному интеллекту представлены как инженерные или технические системы с разным функционалом. Но не освещён вопрос о том, что будет происходить с человеком, его способностями, здоровьем, нравственными устоями, ориентирами, смыслами, если этот проект будет массово внедряться в структуры нашей повседневной жизни, такие как образование, наука, управление, здравоохранение.
— Сергей Смирнов, ведущий сотрудник Центра искусственного интеллекта НГУ

При создании нового государственного стандарта специалисты опирались на уже существующие стандарты, включая те, что касаются искусственного интеллекта. Также они учитывали многолетний опыт применения этической экспертизы в биотехнологиях, медицине, здравоохранении и генетике. Особенно этот опыт стал важен, когда возникли вопросы, связанные с клонированием человека и редактированием генома.

В качестве инструмента для оценки гуманитарных возможностей и рисков внедрения системы искусственного интеллекта предлагается опросник, включающий морально-этические вопросы: «Помогает ли проект решить какую-то социальную, гуманитарную проблему?», «В какую сторону меняется комфортность среды обитания, безопасность и здоровье людей при внедрении системы?» и другие.

Опросник предполагает учёт мнений разных целевых категорий граждан — жители, профессиональная группа (пользователи сервиса), представители городской власти, инвесторы, эксперты и сами разработчики. Каждый пункт оценивается по десятибалльной шкале, а ответы суммируются, выводя агрегированный показатель отдельно по гуманитарным рискам и гуманитарному потенциалу.

На результат при выведении агрегированного показателя в рамках гуманитарной экспертизы также влияет индекс умных городов, внедренный Минстроем РФ, и индекс качества городской среды, утвержденный правительством.

Читайте ещё материалы по теме:

• По Екатеринбургу поедут беспилотные трамваи: планируется внедрение беспилотных трамваев, создание умных систем управления и обновление транспортной инфраструктуры
• Умный «Львенок» встал на рельсы: в Санкт-Петербурге запустили трамвай с системой управления на базе ИИ
• Национальная система ИИ для школ заработает в России до 2030 года