В этой статье речь пойдёт об актуальном вопросе этичности поведения роботизированных систем и правомерности обработки персональных данных.
Ранее на этом канале были опубликованы статьи, где упоминались предпосылки к совершенствованию государственной системы контроля киберпространства:
Если есть законодательство о персональных данных, зачем нужны совершенствования?
Специфика человеческого общения с системами искусственного интеллекта (ИИ) содержит много субъективных факторов. Например, человек может проявлять повышенное доверие при голосовом общении с системой ИИ, также часто у людей присутствует убеждение, что если программа запрашивает персональные данные, то значит это правомерно. Человека, при подобных обстоятельствах, чаще могут подвергнуть сомнению, чем систему ИИ.
Роботизированные системы бескорыстны - это верное утверждение, но они создаются и эксплуатируются человеком, поэтому государственная система должна контролировать не роботов, а человеческие действия с целью недопущения ошибок в проектировании и эксплуатации роботизированных комплексов.
Есть ещё одна важная особенность, это обработка системой поведенческих реакций пользователя. В законодательстве соблюдается принцип целесообразности обработки персональных данных (ПДн) - это означает, что на основании п.4 ст. 5 закона "О персональных данных" (федеральный закон №152-ФЗ от 27.06.2006 г.) нельзя обрабатывать данные, превышающие цели их обработки. Про обработку поведенческих реакций, которая может учитываться для улучшения функций пользовательского интерфейса роботизированной системы, в законодательстве не сказано.
Одновременно человек рассчитывает, что роботизированная система будет обеспечивать его комфорт и безопасность, а также будет соблюдать его право на личную тайну.
Как, например, реализовать систему контроля за самочувствием человека в общественных местах без обработки данных о его здоровье, которые являются личными сведениями о человеке?
Подобные вопросы в законотворческой деятельности будут чаще возникать при совершенствовании интеллектуальных систем взаимодействия роботов с человеком. Например, если внедрить в систему уличной безопасности модуль внешней диагностики стрессовых состояний человеческого организма с целью предупреждения обострений и проявления осложнений заболеваний, то, фактически, система безопасности будет располагать информацией о первичном обследовании физического состояния граждан. Возникает вопрос: "Было ли получено разрешение от гражданина на проведение такого первичного обследования?"
Если происходят обработки данных системами наблюдения в целях социальной помощи и безопасности общества, то о таких обработках нужно информировать граждан, а обработанные данные нужно безопасно хранить и цивилизованно утилизировать.
Любой специалист может, в силу своих профессиональных знаний, обрабатывать информацию об объекте посредством проведения наблюдения законным способом и делать логические выводы, которые недоступны другим несведущим в его профессиональной сфере гражданам. Это не означает, что результаты своих наблюдений специалист хранит, персонифицирует или использует каким-либо законодательно запрещённым способом.
Роботизированная система может проводить сбор, обработку, использование и, в разрешённых случаях, персонификацию персональных данных граждан в заявленных для обработки целях. Поэтому все информационные процессы системы роботизированного комплекса должны быть подконтрольны единой полномочной системе регулирования киберпространства.
Одним из важных вопросов использования роботов является совершенствование систем самоконтроля сложных интерфейсов при взаимодействии с пользователем - это означает, что интеллектуальные системы в будущем должны быть обучены самостоятельному определению линий общения с максимальным соблюдением прав человека (встроенный электронный юрист).
В современном обществе государство обладает необходимыми полномочиями для организации систематизированного контроля применения роботизированных процессов.
Поэтому в государственной системе должны происходить правовые, организационные и технические совершенствования, обеспечивающие построение системы, регулирующей прогрессивное развитие роботизированных технологий.
17 февраля 2019 года.
автор: юрист Демешин Сергей Владимирович.
Какие темы по информационным отношениям Вам интересны? Пройдите опрос канала "ИНФОРМАЦИОННОЕ ПРАВО в обществе".