Исследователи разработали новый инструмент обучения, который поможет программам искусственного интеллекта (ИИ) лучше учитывать тот факт, что люди не всегда говорят правду, предоставляя личную информацию. Новый инструмент был разработан для использования в ситуациях, когда у людей есть экономический стимул лгать, например, при подаче заявки на ипотеку или попытке снизить страховые взносы.
«Программы искусственного интеллекта используются в самых разных бизнес-контекстах, например, помогают определить, какую сумму ипотеки может себе позволить человек или какими должны быть страховые взносы человека», — говорит Мехмет Джанер, соавтор статьи. «Эти программы искусственного интеллекта обычно используют для прогнозирования математические алгоритмы, основанные исключительно на статистике. Но проблема в том, что этот подход создает стимулы для людей лгать, чтобы они могли получить ипотеку, снизить страховые взносы и так далее.
«Мы хотели посмотреть, есть ли какой-нибудь способ скорректировать алгоритмы ИИ, чтобы учесть ложь этих экономических стимулов», — говорит Канер, заслуженный профессор экономики Турман-Райтеон в Колледже менеджмента штата Северная Каролина.
Чтобы решить эту проблему, исследователи разработали новый набор параметров обучения, которые можно использовать для определения того, как ИИ учится делать прогнозы. В частности, новые параметры обучения направлены на распознавание и учет экономических стимулов человека. Другими словами, ИИ учится распознавать обстоятельства, в которых человек может лгать, чтобы улучшить свои результаты.
В ходе моделирования, подтверждающего концепцию, модифицированный ИИ смог лучше обнаруживать неточную информацию от пользователей.
«Это эффективно снижает стимул пользователя лгать при отправке информации», — говорит Канер. «Однако маленькая ложь все равно может остаться незамеченной. Нам нужно проделать дополнительную работу, чтобы лучше понять, где находится порог между «маленькой ложью» и «большой ложью».
Исследователи делают новые параметры обучения ИИ общедоступными, чтобы разработчики ИИ могли экспериментировать с ними.
«Эта работа показывает, что мы можем улучшить программы искусственного интеллекта, чтобы уменьшить экономические стимулы для людей лгать», — говорит Канер. «В какой-то момент, если мы сделаем ИИ достаточно умным, мы сможем полностью устранить эти стимулы».
