Сообщает ScienceDaily, исследователи из Уорикского университета (University of Warwick), Лондонского имперского колледжа (Imperial College London), EPFL (Лозанна) и Sciteb Ltd разработали «принцип неэтичной оптимизации», что помогает искусственному интеллекту выявлять и отбраковывать «неэтичные» схемы работы с потребителями и людьми в целом.
В своей научной работе, изданием Royal Society Open Science, которая так и называется «Принцип неэтичной оптимизации», ученые описали некоторые подробности построения принципов выбора «этичных», соответствующих принятым моральным нормам и "для галочки" законам стратегий, которые могут быть применены для коммерческой и иной работы с пользователями тех или иных сервисов, потребителями услуг и покупателями товаров.
В качестве примера тех самых схем приводится, например, следующая, описанная британской газетой, которая провела в 2018 году опыт и выяснила, что если вносить данные в калькулятор страховой компании, то при внесении имени Мохаммед Смит условия более выгодные, чем при вводе имени Джон Смит.
Предпосылкой для проведения такого рода исследований явилась, судя по их описанию, не столько внезапно вспыхнувшая в научном сообществе любовь к простым, не слишком обремененным математическим образованным людям, а запросы регуляторов и бизнеса. Последний уже сегодня, либо в самом ближайшем будущем рискует нарваться на гигантские штрафы – за «неэтичные» схемы, которые задействуются для постоянного увеличения продаж. Такого рода схемы сегодня зачастую подбирает даже не сейлз-менеджер, а искусственный интеллект, основываясь на данных об активности и особенностях поведения пользователей.
Цель производителей товаров и поставщиков услуг – предложить максимально оперативно, то есть в нужный момент именно то, что захочет купить конкретный человек или организация. Развитие юридических сервисов (тоже, вполне себе ходовой товар) позволяет инициировать иск за «неэтичность» подобного поведения продавца. Потребитель, узнав о том, каким образом поставщик товаров или сервисов проведал о его предпочтениях, может на это банально обидеться. Но может и обратиться к регулятору, который, в свою очередь, вправе (если это оговорено нормами законодательства) выставить серьезный штраф.
Очевидно, что актуальные размеры штрафов и вероятность их применения заставили регуляторов, бизнес и ученых обратить пристальное внимание на данную проблему и инициировали создание упомянутых принципов «этичной» фильтрации, позволяющих коммерческим структурам опираться только на безобидные и законопослушные схемы.
С учетом нынешних тенденций к усилению борьбы за самые разные права, а также за равноправие и справедливость, принцип отфильтвовывания любых подозрительных схем, которые имеют шанс быть названными потребителями «неэтичными», может в скором времени стать одним из базовых в работе искусственного интеллекта.
Разработчики уверены, что применение созданного ими принципа оптимизации и выявления неэтичных схем позволит постоянно совершенствовать работу ИИ в процессе его самообучения.