Учитывая ограничения в отношении прозрачности и индивидуального самоопределения, в нормативных актах о защите данных все больше подчеркивается роль оценки риска.
Оценка риска контролером данных и безопасной средой искусственного интеллекта может значительно повысить доверие людей и их готовность использовать приложения искусственного интеллекта.
Предпочтения пользователей могут быть основаны на эффективном анализе рисков и мерах по их снижению, а не просто на маркетинговых кампаниях или репутации бренда. Использование алгоритмов с помощью современных методов обработки данных, а также тенденция к использованию ресурсоемких технологий побуждают некоторых к более широкому пониманию возможных негативных последствий обработки данных.
Группы экспертов и ученых вышли за рамки традиционной сферы защиты данных и рассмотрели влияние использования данных на основные права и коллективные социальные и этические ценности.
Оценка соответствия этическим и социальным ценностям сложнее, чем традиционная оценка защиты данных. Например, ценности (целостность данных), лежащие в основе безопасности данных и управления ими, являются технологически обоснованными и поэтому могут быть обобщены в различных социальных контекстах, в то время как в отношении социальных и этических ценностей ситуация является иной.
Они обязательно зависят от конкретных условий и отличаются от сообщества к сообществу, что затрудняет определение контрольных показателей для такого рода оценки риска.
Этот вопрос четко рассматривается в первом разделе Руководства по большим данным, в котором содержится настоятельный призыв как к контролерам данных, так и к специалистам по обработке данных "должным образом учитывать возможное воздействие предполагаемой обработки больших данных и ее более широкие этические и социальные последствия" в целях защиты прав человека и основных свобод в свете Конвенции 108.
Новый элемент оценки рисков касается диапазона защищаемых интересов и прав. В оценке рассматриваются права, выходящие за рамки традиционной защиты данных, такие как право на недискриминацию, а также уважение социальных и этических ценностей.
В Руководящих принципах признается относительный характер социальных и этических ценностей и подчеркивается, что использование данных не должно противоречить"этическим ценностям, общепринятым в соответствующей общине или общинах, и не должно наносить ущерба интересам, ценностям и нормам общества".
Следуя мнению ученых, изучавших этот вопрос, они полагают, что "общие руководящие этические ценности можно найти в международных хартиях прав человека и основных свобод, таких как Европейская конвенция по правам человека".
Учитывая контекстуальный характер социальной и этической оценки и тот факт, что международные хартии могут содержать только руководящие указания высокого уровня, в Руководящих принципах это общее предложение сочетается с более конкретным вариантом, представленным "специальными комитетами по этике".
Если в ходе оценки будет выявлено "значительное воздействие использования "больших данных" на этические ценности", комитеты, которые в некоторых случаях уже существуют на практике, должны определить конкретные этические ценности, подлежащие сохранению в связи с конкретным использованием данных.
Архитектура ценностей, определенная в Руководящих принципах, основана на трех уровнях.
- Первый общий уровень - это представлен "общими руководящими этическими ценностями" международных хартий прав человека и основных свобод.
- Второй уровень учитывает контекстнозависимый характер социальной и этической оценки и фокусируется на ценностях и социальных интересах конкретных сообществ.
- Наконец, третий уровень состоит из более конкретного набора этических ценностей, определенных комитетами по этике в связи с тем или иным использованием данных.
Сложность этой оценки предполагает постоянное развитие, как потенциальных рисков, так и мер по их устранению.
В связи с этим, надзорные органы по защите данных могут играть важную роль в оказании поддержки контролерам данных, информируя их о мерах по обеспечению безопасности данных и предоставляя подробные руководящие принципы в отношении процесса оценки рисков. Поэтому Руководящие принципы не оставляют оценку исключительно на усмотрение контролеров данных.
В соответствии с подходом, принятым в Постановлении (ЕС), если использование больших массивов данных "может существенно повлиять" на права и основные свободы субъектов данных, контролеры должны консультироваться с надзорными органами для получения рекомендаций о том, как и как снизить риски, указанные в оценке воздействия.
