Автор Ирвинг Владавски-Бергер
«Искусственный интеллект (ИИ) - это поиск машин, которые способны действовать целенаправленно, чтобы принимать решения для достижения целей», - написал профессор Гарварда Дэвид Паркс в книге «Ответственность за осторожность суждения в эпоху принятия решений машинами», недавно опубликованном эссе. как часть Цифровой инициативы Гарварда. «Машины должны уметь предсказывать решения, но принятие решений требует гораздо большего. Принятие решений требует объединения и согласования нескольких точек зрения. Принятие решений требует лидерства в защите позиций и объяснении пути вперед. Принятие решений требует диалога».
В апреле 2017 года я посетил семинар профессора Университета Торонто Ави Гольдфарба об экономической ценности ИИ. Гольдфарб объяснил, что лучший способ оценить влияние новой радикальной технологии - посмотреть, как эта технология снижает стоимость широко используемой функции. Например, компьютеры - это мощные калькуляторы, стоимость цифровых операций которых за последние несколько десятилетий резко снизилась. За прошедшие годы мы научились определять все виды задач с точки зрения цифровых операций, например, финансовые операции, обработка текстов, фотографий. Аналогичным образом, благодаря Интернету резко сократились расходы на связь и доступ ко всем видам информации, включая текст, изображения, музыку и видео.
С этой точки зрения революция ИИ может рассматриваться как снижение стоимости прогнозов. Предсказание означает предвидение того, что может произойти в будущем. За последнее десятилетие все более мощные и недорогие компьютеры, усовершенствованные алгоритмы машинного обучения и взрывной рост больших данных позволили нам извлечь из этих данных понимание и превратить их в ценные прогнозы.
Учитывая широко распространенную роль прогнозов в бизнесе, правительстве и повседневной жизни, ИИ уже оказывает значительное влияние на многие виды человеческой деятельности. Как и в случае с арифметикой, связью и доступом к информации, мы сможем использовать прогнозы во всех видах новых приложений. Со временем мы обнаружим, что многие задачи могут быть преобразованы в проблемы прогнозирования.
Но «решения, а не прогнозы имеют последствия», - отмечает Паркс. «Если нарративом настоящего является один из менеджеров, которых ценят за то, что они проявляют суждение при принятии решений… тогда повествованием о будущем будет тот, в котором мы ценим себя за нашу способность оценивать и формировать способности машин принимать решения. Для чего будут оптимизироваться машины принятия решений в будущем, на основе каких данных и от чьего имени? Как мы должны разрабатывать и развертывать сложные системы ИИ, цель которых - принимать решения непрерывно и автоматически? Какие ценности должны быть закреплены в наших системах?
Академическое сообщество начинает обращать внимание на эти очень важные и сложные вопросы, лежащие в основе перехода от прогнозов к решениям. В прошлом году Паркс был соорганизатором семинара «Алгоритмические и экономические перспективы справедливости». Семинар собрал исследователей с опытом работы в области алгоритмического принятия решений, машинного обучения и обработки данных с политиками, юристами, экономистами и лидерами бизнеса.
Как объясняется в отчете семинара, алгоритмические системы уже давно используются, чтобы помочь нам принять последующие решения. Предсказания рецидивизма датируются 1920-ми годами, а автоматический кредитный скоринг начался в середине 20-го века. Неудивительно, что алгоритмы прогнозирования в настоящее время используются во все большем числе областей, включая заявления о приеме на работу, уголовное правосудие, кредитование и страхование, медицину и государственные услуги.
Такое признание алгоритмических методов вызывала обеспокоенность в отношении их общей справедливости в отношении тех, чье поведение они предсказывают, например, систематически ли алгоритмы дискриминируют людей с общей этнической или религиозной принадлежностью; правильно ли они относятся к каждому человеку как к личности; и кто решает, как алгоритмы разработаны и развернуты.
Эти опасения присутствовали всякий раз, когда мы принимаем важные решения. Новым является гораздо больший масштаб, в котором мы теперь полагаемся на алгоритмы, помогающие нам принимать решения. Человеческие ошибки, которые могли когда-то быть своеобразными, теперь могут стать систематическими. Еще одним соображением является их широкое использование в разных областях. Алгоритмы прогнозирования, такие как кредитные рейтинги, теперь могут использоваться в контекстах, выходящих за рамки их первоначальной цели. Подотчетность является еще одной серьезной проблемой. «Кто несет ответственность за предсказания алгоритма? Как можно обжаловать алгоритм? Как можно попросить алгоритм рассмотреть дополнительную информацию, помимо того, что его разработчики уже зафиксировали?»
Хотя справедливость рассматривается как субъективная и трудно поддающаяся измерению, точность измерений обычно считается объективной и однозначной. «Ничто не может быть дальше от истины», - говорится в отчете семинара. «Решения, основанные на прогностических моделях, страдают от двух видов ошибок, которые часто движутся в противоположных направлениях: ложные срабатывания и ложные отрицания. Кроме того, распределение вероятностей по двум видам ошибок не является фиксированным, а зависит от выбора модели при проектировании. Как следствие, два разных алгоритма с одинаковыми ошибочно-положительными показателями и ошибочно-отрицательными показателями могут допускать ошибки в самых разных группах людей с серьезными последствиями для их благосостояния».
Участникам семинара было предложено определить и сформулировать то, что, по их мнению, является наиболее насущным вопросом для обеспечения справедливости в мире, где все больше данных и алгоритмов. Позвольте мне кратко изложить некоторые из ключевых вопросов, с которыми они столкнулись, а также вопросы, требующие дальнейшего изучения.
Принятие решений и алгоритмы. Недостаточно сосредоточиться на справедливости алгоритмов, потому что их вывод является лишь одним из входов для человека, принимающего решения. Оно поднимает ряд важных вопросов: как люди, принимающие решения, интерпретируют и интегрируют результаты алгоритмов?; когда они отклоняются от алгоритмической рекомендации, это происходит систематически?; и какие аспекты процесса принятия решений должны обрабатываться алгоритмом, а какие - человеком для достижения справедливых результатов?
Оценка результатов. Очень сложно измерить влияние алгоритма на решение из-за косвенных эффектов и петель обратной связи. Поэтому очень важно отслеживать и оценивать фактические результаты. Можем ли мы правильно понять причины алгоритмической рекомендации? Как мы можем спроектировать автоматизированные системы, которые будут проводить соответствующие исследования, чтобы обеспечить надежную производительность в изменяющихся средах?
Регулирование и мониторинг. Плохо разработанные правила могут быть вредными для лиц, которых они призваны защищать, а также дорого обходиться для фирм. Таким образом, важно указать точный способ контроля за соблюдением. Как должны быть разработаны системы рекомендаций, чтобы предоставить пользователям больше контроля?; Может ли регулирование алгоритмов привести к тому, что фирмы откажутся от алгоритмов в пользу менее проверяемых форм принятия решений?
Последствия для Образования и Подготовки кадров. Изучение соображений справедливости применительно к алгоритмическим системам является довольно новой областью. Поэтому важно понимать влияние различных видов обучения на то, насколько хорошо люди будут взаимодействовать с решениями на основе ИИ, а также на структуру управления и руководства для решений на основе ИИ. Могут ли менеджеры (или судьи), имеющие некоторую техническую подготовку, использовать рекомендации, основанные на машинном обучении? Что инженеры программного обеспечения должны узнать об этических последствиях своих технологий?; Какова связь между предметной областью и техническим опытом в рассмотрении этих вопросов?
Исследования Алгоритмов. Разработка алгоритма - это устоявшаяся область исследований в области компьютерных наук. В то же время, вопросы справедливости по своей сути сложны и многогранны и невероятно важны для правильного решения. Как мы можем содействовать межотраслевому сотрудничеству между исследователями, обладающими экспертными знаниями (моральная философия, экономика, социология, правоведение) и специалистами, обладающими техническими знаниями?