В одной из передач по радио обсуждался вопрос роботизации сферы обслуживания и некто высказался о том, что роботизированное такси потеряет в результате того, что не будет возможности поговорить с водителем, улыбнуться ему, услышать какой-нибудь весёлый комментарий в поездке.
Так ли важно "тепло человеческого общения" с живым водителем такси, если робот сможет отвечать на вопросы пассажира, включать ему по желанию радиостанции без риска отвлечься от вождения? Чего на самом деле опасаются будущие потребители роботизированных услуг?
Основных групп рисков несколько:
- сбой в работе роботизированной системы;
- утечка персональных данных и сведений личной тайны из электронных хранилищ робота (равно как и подключение взломщиков к роботу с целью наблюдения за его клиентом);
- использование роботом средств речевого и мультимедиа воздействия на клиента с целью направления его к принятию наиболее выгодного системе решения (этот риск называется "посягательством на автономию в принятии решений" и учитывается в рекламных, рекомендательных технологиях сервисов).
Это всего лишь риски и они имеют низкую степень вероятности возникновения в безопасных роботизированных системах. Роботы могут повысить надёжность обслуживающих систем, исключив влияние человеческого фактора.
Например, сбои в роботизированной системе могут происходить реже, чем сбои в работе человека, совершающего ошибки из-за физической усталости. Персональные данные при автоматизированной обработке могут быть более защищёнными, чем при обработке с участием человека. В системе защиты данных человек часто становится уязвимым звеном.
Актуальным вопросом является безопасность человека от посягательства на автономию принятия решений. В этом направлении разрабатываются новые законы и создаются наблюдательные органы, которые будут контролировать разработку и лицензирование деятельности роботостроения.
Соблюдением законности рекламы занимается антимонопольная служба, которая сегодня существенно продвинулась в методах защиты потребителей от вредных воздействий рекламной информации.
Тема безопасности роботизации обсуждается на разных уровнях. А вы готовы использовать услуги в исполнении систем ИИ? Пройдите небольшой опрос по этой теме.
Свои вопросы и мнения сообщайте в комментариях к этой статье.
25 сентября 2022 года (редакция текста 29 мая 2023 года).
Автор: Демешин Сергей Владимирович (юрист).
Участвуйте в обсуждении, соблюдайте правила комментирования публикаций, указанные на главной странице этого канала.