Группа ученых опубликовала исследование в журнале International Journal of Human–Computer Interaction, определив задачи, которые должны решить люди, чтобы искусственный интеллект стал для них надежным, безопасным, заслуживающим доверия и совместимым с социальными ценностями.
Озлем Гарибай, автор исследования, считает, что новые технологии занимают важное место во многих аспектах человеческой жизни, при этом с ними связанно множество проблем, которые необходимо изучить. Например, грядущая повсеместная интеграция искусственного интеллекта(ИИ) может существенно повлиять на жизнь человека таким образом, который еще не до конца понятен, говорит Гарибай, которая работает над применением ИИ в разработке и открытии материалов и лекарств, а также над тем, как он влияет на социальные системы.
Всего ученые определили шесть проблем:
1. Благосостояние человека: ИИ должен уметь находить возможности для реализации, чтобы приносить пользу и благополучие людям.
2. Ответственность: концепция приоритета благополучия человека и общества на протяжении всего жизненного цикла ИИ. Это должно гарантировать, что потенциальные преимущества ИИ будут использоваться таким образом, чтобы соответствовать человеческим ценностям и приоритетам, а также снижать риск непредвиденных последствий или нарушений этических норм.
3. Конфиденциальность: Сбор, использование и распространение данных в системах ИИ должны быть тщательно продуманы для обеспечения защиты частной жизни людей и предотвращения использования против отдельных лиц или групп.
4. Проектирование: Принципы проектирования систем, ориентированных на человека. В рамках этой концепции можно провести различие между ИИ с низким риском, не требующим специальных мер, ИИ с высоким риском и ИИ, который не следует допускать к взаимодействию с людьми.
5. Управление и надзор: Необходима система управления, учитывающая весь жизненный цикл ИИ - от концепции до разработки и внедрения.
6. Взаимодействие человека и ИИ: Для формирования этичных и справедливых отношений между людьми и системами ИИ необходимо, чтобы взаимодействие основывалось на фундаментальном принципе уважения когнитивных способностей человека. В частности, люди должны сохранять полный контроль над поведением и результатами работы систем ИИ и нести за них ответственность.
Исследование, которое проводилось в течение 20 месяцев, включает в себя мнения 26 международных экспертов, имеющих различный опыт в области технологий ИИ. "Создание искусственного интеллекта, ориентированного на человека, должно быть этичным, справедливым и повышать благосостояния людей. Такая задача требуют создание подхода, включающего в себя ответственное проектирование, защиту частной жизни, соблюдение принципов, ориентированных на человека, соответствующие управление и надзор, а также уважительное взаимодействие с когнитивными способностями человека".
