«ИИ должен способствовать росту благосостояния общества»
Интеграция систем ИИ в процессы автоматизирования современного мегаполиса – чат-бот службы пользовательской поддержки, виртуальных программ-ассистентов, требует формирования особой правовой базы в области взаимодействия пользователей с «нечеловеческими» собеседниками.
В феврале 2019 года Советом Европы была проведена конференция, объединившая специалистов как в области программирования, так и в области гуманитарных наук. Целью конференции было выведение общих правил для развития и применения систем искусственного интеллекта без ущерба для прав человека и демократических институтов – с целью улучшения общества. Правило «ИИ должен способствовать росту благосостояния общества», то есть делать человеческую среду лучше, отражено в представленных в апреле 2019 года тезисах Экспертной группы высокого уровня по ИИ Совета Европы – в Руководстве по этике для заслуживающего доверия ИИ.
Основными принципами, положенными в основу будущих систем искусственного интеллекта, стали:
1) законность – соблюдение всех применимых законов и правил («системы искусственного интеллекта должны расширять возможности людей, позволяя им принимать обоснованные решения и укреплять свои основные права»);
2) этичность – уважение этических принципов и ценностей (особое внимание уделялось здесь разрешению проблемы дискриминации);
3) надёжность – как с технической точки зрения, так и с учётом особенностей социальной среды;
4) подконтрольность человеку и связанная с этим техническая надёжность и безопасность ИИ;
5) конфиденциальность в управлении пользовательскими данными; «прозрачность» работы алгоритмов (в том числе и через предоставление необходимой информации их пользователям).
Несмотря на достигнутый прогресс в выявлении общих принципов для развития ИИ, на практическом уровне их претворения в жизнь возникают сложности. Отсутствие детализации столь фундаментальных принципов не конкретизируется в частности тем, что именно справедливо считать подлинной «дискриминацией» определённых личностей и целых групп: может ли мы говорить о дискриминации «плохих учителей-собеседников», приводящих к нарушению в работе взаимодействующей с ними нейронной сети, обучаемой на их негативном отношении к другим людям?
Не является ли также положение о безопасности ИИ рычагом, сдерживающим развитие его технологий, и какой именно предел риска функционирования системы может подразумеваться без нарушения положения о «технической надёжности»?
Как определяется лимит «прозрачности» работы алгоритмов в ситуации, где на системы ИИ в постоянном режиме осуществляются атаки?
Где в этом случае проходит грань между защитой интересов пользователей системы и сохранением безопасности её алгоритмов?
В этой связи мы также должны говорить не только о безопасности алгоритмов ИИ, но и безопасности самого ИИ как проекта для населения и мира в целом, ведь современные обучаемые системы ставят проблему независимости функционирования и сбоев от воли человека, регулирование которой также не было полноценно зафиксировано в современных международных актах. Отдельным аспектом данной проблемы становится отсутствие у многих государств стремления применять нормы международного права, в которых они видят ущемление своих прав.