Последствия перехода на искусственный интеллект предполагают наличие некоторых актуальных тем. В частности, клиенты могут почувствовать потерю самостоятельности, если ИИ сможет существенно предсказать их предпочтения. Теоретически, поскольку искусственный интеллект способствует созданию новых маркетинговых предложений, клиенты должны рассматривать их как более выгодные, поскольку это снижает стоимость поиска.
Но это может подорвать восприятие клиентами своей автономии, что будет иметь последствия для их оценок и выбора. Если клиенты узнают, что алгоритм искусственного интеллекта может предсказать предпочтительный для них выбор, они могут сознательно выбрать неориентированный вариант, чтобы подтвердить свою автономию.
Такие соображения вызывают целый ряд вопросов.
Например, какие факторы определяют, ценят ли клиенты (и в какой степени) воспринимаемую самостоятельность в условиях выбора, основанного на искусственном интеллекте?
В этой связи может оказаться полезным изучение индивидуальных переменных различий, таких как культура и отношение потребителей к искусственному интеллекту как к служащему или партнеру.
Также существует мифический страх потери человеческих связей, так как люди формируют общение с роботами со встроенным искусственным интеллектом.
Популярная пресса высказывает опасения по поводу того, что роботы со встроенным искусственным интеллектом станут популярными (из-за людей) в качестве партнеров.
В этом отношении роботы типа Harmony выглядят многообещающими, способными воспринимать разные образы и проявлять некоторую экспрессию.
Однако такие роботы могут нанести ущерб обществу в целом, усиливая социальную изоляцию, снижая частоту браков или рождаемость, что крайне важно для таких стран, как Япония, где рождаемость уже низкая.
Наконец, ИИ представляет интерес для директивных органов. Отмечается три широкие области, в которых политики стремятся обеспечить надлежащий баланс между собственными коммерческими интересами и интересами клиентов:
- конфиденциальность данных
- предвзятость
- этика
Конфиденциальность данных
Сегодня сочетание искусственного интеллекта с большими данными означает, что фирмы много знают о своих клиентах. Таким образом, два вопроса заслуживают внимания исследователей.
Во-первых, клиенты беспокоятся о конфиденциальности своих данных. Конфиденциальность является сложной по трем причинам:
- низкая стоимость хранения подразумевает, что данные могут существовать значительно дольше, чем предполагалось,
-данные могут быть переупаковываться и повторно использоваться по причинам, отличным от тех, которые предполагались
-данные могут быть переупаковываться и повторно использоваться по причинам, отличным от тех, которые предполагались—данные для определенного лица могут содержать информацию о других лицах. ьданные для определенного лица могут содержать информацию о других лицах.
Политика в области конфиденциальности данных требует сбалансированности двух конкурирующих приоритетов.
Слишком слабая защита означает, что потребители могут не использовать искусственный интеллект в прикладных целях; слишком много регулирования может задушить инновации.
Во-вторых, важные исследовательские вопросы касаются того, должны ли усилия по управлению неприкосновенностью частной жизни основываться на правовых нормах или на саморегулировании, поскольку пока не ясно, будут ли рыночные стимулы достаточными для принятия компаниями мер в интересах потребителей или необходим регулятивный надзор для обеспечения справедливого результата для потребителей.
Культурные аспекты конфиденциальности данных также различаются, что является важным соображением; некоторые полагают, что отсутствие конфиденциальности данных в Китае, например, согласуется с конфуцианскими культурными идеалами.
В-третьих, нам необходимо понять, как лучше всего учитывать и решать проблемы конфиденциальности в момент сбора данных, а также как справляться с нарушениями конфиденциальности данных.
Amazon уже продает дверные звонки с камерами (устройство "Кольцо") и, возможно, планирует добавить к ним искусственный интеллект для идентификации лица.
Таким образом, клиенты могут испытывать беспокойство, если Amazon имеет доступ к данным, записанным через «Кольцо», которые она может использовать или продавать.
Соседи также могут протестовать, если камеры «Кольца» будут записывать свои действия на переднем дворе без их разрешения. Кроме того, данные из «Кольца», вероятно, могут быть получены правоохранительными органами в виде повестки в суд или получены хакерами незаконно. .
Парадокс приватности и персонализации
Клиенты должны соблюдать баланс между заботой о неприкосновенности частной жизни и преимуществами персонализированных рекомендаций и предложений.
Важные вопросы связаны с тем, как клиенты определяют оптимальный компромисс, включая то, какие индивидуальные переменные различия и переменные состояния могут модерировать их выбор. Зависит ли компромисс, например, от категории продукта или уровня доверия клиента к фирме? Кроме того, как этот компромисс со временем изменится?