Несмотря на преимущества, эксперты предупреждают, что страховая отрасль не застрахована от проблем, связанных с ИИ, а именно от рисков предвзятости, неправильного использования данных и их ненадежности (качества).
Компании могут столкнуться с завышенными премиями и ограничениями по страховому покрытию из-за того, что страховщики могут обучать системы ИИ-андеррайтинга на основе ограниченных, устаревших или предвзятых данных. Природа систем ИИ такова, что, если исходные данные являются предвзятыми, то решения, принимаемые ИИ, неизбежно будут отражать эти предубеждения.
Страховщики должны быть уверены, что ИИ обучен работе с репрезентативными, объективными данными, и что они регулярно проверяют и обновляют системы для устранения искажений.
Проиллюстрировать риск предвзятого принятия решений на примере страхования можно следующим образом:
· модели ИИ, основанные на исторических данных, могут оказать негативное влияние на компании в районах, подверженных повышенному риску наводнений, не учитывая текущие климатические условия;
· производственная компания в сельской местности может столкнуться с более высокими премиями из-за недостатка данных, которые не учитывают ее надежные связи в цепочке поставок, удаленную работу или планы действий в чрезвычайных ситуациях на случай перебоев в подаче электроэнергии;
· предвзятость ИИ может повлиять на директоров и должностных лиц по страхованию (D&O), поскольку модели ИИ, обученные на данных о судебных процессах в конкретной отрасли, могут привести к завышению цен и ограничению охвата компаний, работающих в секторах, подверженных судебным разбирательствам и страховым претензиям, игнорируя безупречную юридическую отчетность этих конкретных компаний и ключевые методы управления.
Страхователям со своей стороны следует интересоваться характером наборов данных, используемых для обучения моделей ИИ. Важно понять, охватывают ли эти наборы данных широкий спектр отраслей, включая последние тенденции и разработки. Следует расспросить страховщиков о существующих механизмах выявления и устранения предубеждений. Это включает в себя вопросы о том, регулярно ли системы искусственного интеллекта проходят аудит на предмет честности и точности.
Кроме того, следует поинтересоваться возможностью ручной проверки или переопределения в тех случаях, когда решения, основанные на ИИ, кажутся несправедливо искаженными. Из-за потенциальной возможности получения ошибочных результатов компаниям необходимо задавать больше вопросов о том, как оцениваются риски с помощью технологий ИИ и как они оцениваются по стоимости.
Другие шаги включают проверку соответствия андеррайтинговой системы страховщика, основанной на ИИ, различным законам о защите данных. Безопасность данных - еще одна проблема, вызывающая беспокойство. Эксперты предупреждают, что компании могут оказаться в опасности обнародования ключевой информации о рисках, если страховщики будут использовать или делиться своими данными в системах ИИ, которые часто сохраняют права на интеллектуальную собственность на любые введенные данные, при обучении технологиям ИИ для улучшения своего андеррайтинга.
Страхователи в свою очередь должны внимательно следить за использованием своих данных и проверять, какие меры кибербезопасности применяет страховщик для защиты данных от потенциальных утечек или неправильного использования.
Вышеперечисленные риски дают почву для обсуждения обязательного страхования вреда, причиненного ИИ, уже сейчас. Об этом открыто заявляется на страховом рынке, тем более что на текущей момент многие страховые компании в России не имеют достаточных ресурсов для сбора и анализа массивов данных, необходимых для интеграции и развития точных ИИ-решений. Более того, Госдума приняла во втором чтении законопроект об обязательном страховании вреда, причинённого искусственным интеллектом (ИИ), в рамках работы экспериментальных правовых режимов (ЭПР).Сейчас страхование рисков в ЭПР носит добровольный характер.
Использование любой технологии, особенно на заре развития, поднимает вопросы о настройках и регулировании этой технологии, что реализуемо лишь со временем. Безусловно мы находимся на пороге грандиозного научного прорыва, когда неинтересные, монотонные и тяжелые физические действия будут перенесены на плечи роботов, а выбор и обучение будут максимально упрощены с помощью личных ИИ-помощников, планировщиков и коучей. Как следствие, человеку останется только наслаждаться жизнью без напряжений и головоломки. Или все же нет?
Источники: