В знаковом деле, поставившем под сомнение надежность обслуживания клиентов с помощью искусственного интеллекта (ИИ), авиакомпанию Air Canada обязали выплатить компенсацию пассажиру Джейку Моффатту, которого чат-бот авиакомпании ввел в заблуждение относительно правил путешествия в связи с тяжелой утратой.
Инцидент произошел, когда Моффатт обратился на сайт Air Canada за консультацией по поводу тарифов авиакомпании на поездки в связи с тяжелой утратой после смерти его бабушки в 2022 году. Чат-бот сообщил Моффатту, что он может подать заявление на возврат денег в течение 90 дней с момента оформления билета, предоставив при этом неточную информацию, что побудило Моффатта немедленно забронировать билет и попытаться вернуть деньги в течение 90 дней - вариант, которого в действительности не существовало.
Несмотря на попытки Моффатта исправить ситуацию, Air Canada стояла на своем, утверждая, что чат-бот, созданный в ходе их эксперимента с ИИ, является отдельным юридическим лицом, за которое авиакомпания не может нести ответственность. Такая своеобразная защита озадачила члена суда Кристофера Риверса, председательствовавшего в деле, поскольку Air Canada не смогла обосновать, почему одна часть ее сайта должна считаться более надежной, чем другая.
Риверс вынес решение в пользу Моффатта, подчеркнув, что Air Canada не предприняла разумных мер для обеспечения точности своего чат-бота. Риверс добавил, что не было причин, по которым Моффатт должен был знать, что один раздел сайта Air Canada является точным, а другой - нет.
Решение, предусматривающее частичное возмещение и дополнительные убытки на общую сумму $608, создает прецедент, поскольку впервые канадская компания попыталась уйти от ответственности за дезинформацию, предоставленную ее чат-ботом. Этот случай проливает свет на компании, использующие технологии искусственного интеллекта для обслуживания клиентов. Несмотря на то, что недавние разработки в области ИИ привели к тому, что компании начали активно внедрять ИИ в свои продукты, и многие из них решили разместить на своих сайтах чат-боты, работающие на базе GPT, вопросы об их жизнеспособности и риске все еще остаются.
Чат-бот компании Air Canada был запущен в качестве эксперимента главным директором по информационным технологиям Мэлом Крокером, чтобы изначально снизить нагрузку на колл-центр Air Canada во время непредвиденных сбоев, таких как задержки или отмены рейсов, с конечной целью автоматизировать услуги, которые не требуют человеческого прикосновения.
В беседе с корреспондентом Vancouver Sun Айра Парги, юрист, специализирующийся на информационном праве и ИИ, подчеркнул, что этот случай является напоминанием компаниям о необходимости быть осторожными, полагаясь на ИИ. Если ситуация слишком запутанная или сложная, если она не основана на правилах или слишком сильно зависит от индивидуального усмотрения, то, возможно, ботам следует держаться подальше.
Эксперты полагают, что компания Air Canada могла бы избежать ответственности, если бы чат-бот предупреждал пользователей о возможных неточностях в своих ответах. Это упущение привело Риверса к выводу, что Air Canada не проявила разумной осторожности в обеспечении точности чатбота, что привело к разочарованию Моффатта.
На данный момент чат-бот Air Canada, похоже, отключен, что свидетельствует о возможной переоценке его роли в стратегии обслуживания клиентов авиакомпании. Является ли этот шаг временной реакцией на возникшие разногласия или это более серьезный пересмотр интеграции ИИ, пока неясно.
Дело Моффатта против Air Canada поднимает более широкие вопросы об ответственности компаний, полагающихся на инструменты ИИ для взаимодействия с клиентами. Поскольку компании все чаще прибегают к автоматизации для оптимизации операций и сокращения расходов, необходимость строгого контроля и прозрачности в применении ИИ приобретает первостепенное значение.
Если чат-боты прежних времен были малопригодны из-за узкой сферы применения и понимания правил, то их современные аналоги, работающие на основе ИИ, не являются чем-то узким. Пользователи, поняв, что эти боты предоставляют премиум-доступ к заблокированным функциям благодаря тому, что компании платят абонентскую плату, выходят в социальные сети, демонстрируя свои проделки. В прошлом году один бельгиец покончил с собой после того, как чат-бот ИИ призвал его сделать это в качестве жертвы ради спасения планеты.
Решение суда подчеркивает, что компании несут ответственность за информацию, распространяемую их инструментами искусственного интеллекта. По мере развития технологий установление баланса между инновациями и ответственностью будет иметь решающее значение. Это дело создает прецедент, который побудит компании пересмотреть реализацию и меры предосторожности, связанные с обслуживанием клиентов с помощью ИИ, чтобы предотвратить подобные казусы в будущем.