Искусственный интеллект в играх уже давно ориентирован на улучшение противников, управляемых компьютером. Скоро ли в нем появятся разнообразные персонажи, с которыми мы сможем разговаривать, а не просто стрелять?
В мае в рамках ничем не примечательной встречи по корпоративной стратегии генеральный директор Sony Кеничиро Йошида сделал интересное заявление. Подразделение компании по исследованиям искусственного интеллекта Sony AI будет сотрудничать с разработчиками PlayStation для создания интеллектуальных персонажей, управляемых компьютером. «Используя обучение с подкреплением, - писал он, - мы разрабатываем игровых агентов ИИ, которые могут быть в игре противниками или партнерами по сотрудничеству». Обучение с подкреплением - это область машинного обучения, в которой ИИ эффективно учит себя действовать методом проб и ошибок. Короче говоря, эти персонажи будут имитировать игроков-людей. В какой-то степени они подумают.
Это лишь последний пример развивающейся и расширяющейся роли ИИ в разработке видеоигр. По мере того, как игры с открытым миром становятся все более сложными и амбициозными, с сотнями персонажей и множеством взаимосвязанных повествований, разработчикам приходится создавать системы, способные генерировать интеллектуальных, реактивных, творческих персонажей и возникающие побочные квесты.
Для своих игр про Средиземье разработчик Monolith создал известную систему искусственного интеллекта Nemesis, которая позволяет врагам запоминать свои бои против игрока, создавая кровную месть, вспыхивающую на протяжении всего приключения. Недавний выпуск Watch Dogs: Legion создает истории из жизни, взаимоотношения и распорядок дня для каждого жителя Лондона, с которым вы общаетесь, поэтому, если вы спасете жизнь персонажа в один прекрасный день, его лучший друг может присоединиться к вам на следующий. Экспериментальное текстовое приключение AI Dungeon использует средство моделирования естественного языка OpenAI GPT-3 для создания нового возникающего повествования.
Но у области искусственного интеллекта есть проблема с разнообразием. Исследование, опубликованное Нью-Йоркским университетом в 2019 году, показало, что 80% преподавателей ИИ, выступавших на крупных мероприятиях, были мужчинами, в то время как только 15% исследователей ИИ в Facebook были женщинами и только 10% в Google. Статистика для цветных людей в сфере технологий еще хуже: только 2,5% сотрудников Google - черные; 4% в Facebook. Риск такой однородной рабочей культуры состоит в том, что гендерные и расовые предубеждения могут бесконтрольно подпитывать алгоритмы ИИ, давая результаты, воспроизводящие укоренившиеся дисбалансы и предрассудки. За последние пять лет было множество примеров: от систем распознавания лиц, дискриминирующих людей с цветом кожи, до инструментов найма искусственного интеллекта, которые отдают предпочтение кандидатам-мужчинам.
Теперь, когда игровая индустрия изучает многие из тех же систем искусственного интеллекта и машинного обучения, что и академические круги и крупные технологические гиганты, стоит ли ей решать проблему разнообразия? Мы знаем, что при разработке видеоигр возникали аналогичные проблемы с однородностью как в рабочей силе, так и в продуктах - это то, что индустрия утверждает, что стремится решить эту проблему. Итак, если мы собираемся увидеть созданных искусственным интеллектом персонажей и рассказы о разном происхождении и опыте, разве разработчикам не нужно думать о диверсификации стоящих за ними команд?
Ума Джаярам, генеральный менеджер SEED, группы инновационных и прикладных исследований Electronic Arts, безусловно, так считает. Как технический предприниматель, она работала в сфере облачных вычислений, виртуальной реальности и масштабных данных, а также в области искусственного интеллекта. По ее словам, она стремилась объединить свою глобальную команду представителей разных полов в Швеции, Великобритании, Канаде и США. национальностей и культур.
«Разнообразная команда позволяет объединить несколько точек зрения и создает возможности для более репрезентативного результата и продукта», - говорит она. «Это также расширяет возможности для повышения осведомленности, сочувствия и уважения к людям, которые отличаются от нас. Видеоигра в некотором смысле является продолжением нашего физического мира и местом, где люди проводят время и формируют богатый опыт, который возвращается в коллективное ощущение себя и сообщества. Таким образом, это прекрасная возможность внести разнообразие двумя способами: в команды, занимающиеся проектированием и проектированием этих миров, и в создаваемых мирах и обитателях, которые их населяют ».
Electronic Arts в настоящее время изучает разработку систем, которые могут использовать машинное обучение для воспроизведения выражений лица, типов кожи и движений тела из видео и фотографий, вместо того, чтобы приглашать актеров в студию mo-cap. Теоретически это должно расширить диапазон полов и этнических групп, которые могут быть созданы в играх, и Джаярам говорит, что EA стремится использовать различные данные в своих проектах НИОКР. Компания также рассматривает возможность использования пользовательского контента в играх и предоставления игрокам возможности создавать уникальный аватар, запечатлевая свое собственное изображение и выражение лица на смартфоне или веб-камере и загружая его в игру.
Акцент на разнообразных данных важен, потому что он подчеркивает неправильное представление об ИИ: что он в какой-то мере объективен, потому что является результатом вычислений. Алгоритмы ИИ полагаются на данные, и если эти данные поступают от одной демографической группы, они будут отражать предубеждения и слепые пятна этой группы. «Мы привыкли думать об ИИ как о физических движках или коде для многопользовательской игры - о чем-то техническом, происходящем за кулисами», - говорит исследователь ИИ и разработчик игр Майкл Кук. «Но сегодня ИИ - это часть всей творческой работы. Он контролирует, как маленькие люди с ИИ ведут себя и относятся друг к другу в The Sims; он генерирует культуры и религии в таких играх, как Caves of Qud и Ultima Ratio Regum; это часть политических заявлений в Watch Dogs: Legion. Инженеры ИИ несут такую же ответственность перед игроком, как писатели и дизайнеры. Они создают часть опыта и обладают огромной способностью причинять вред. Недавно мы видели, как AI Dungeon без предупреждения создает истории, которые потенциально травмируют игрока ».
В Microsoft группа исследователей искусственного интеллекта в Кембридже проводит несколько текущих исследований в области машинного обучения и игр, в том числе Project Paidia, в котором изучается использование обучения с подкреплением в игровых агентах искусственного интеллекта, которые могут взаимодействовать с игроками-людьми. На недавнем виртуальном саммите компании было проведено несколько переговоров об этических аспектах игрового ИИ.
«Агенты искусственного интеллекта могут быть созданы для развития, роста и обучения с течением времени, и их качество зависит от того, что вы вкладываете», - говорит Джимми Бишофф, директор по качеству Xbox Game Studios. «Культурная приемлемость с точки зрения диалога и содержания сводится к тому, как его обучают. Мы хотим создавать игры, в которые каждый хочет играть и к которым каждый может относиться, поэтому нам нужны люди, которые могут представлять всех наших игроков ».
Microsoft также видит потенциал в моделировании игроков - системах ИИ, которые учатся действовать и реагировать, наблюдая за тем, как люди-игроки ведут себя в игровых мирах. Пока у вас есть широкая база игроков, это один из способов увеличить разнообразие данных, загружаемых в системы обучения ИИ. «Следующими будут персонажи, которые обучены создавать более разнообразных или более похожих на людей противников», - говорит Катя Хофманн, главный исследователь Microsoft Cambridge. «Сценарий обучения агентов у людей-игроков является одним из самых сложных, но также и одним из самых захватывающих направлений.
«В то же время я хочу подчеркнуть, что технологии искусственного интеллекта не приведут автоматически к разнообразию игрового опыта. Разработчики и создатели технологий должны сделать выбор в отношении того, как использовать технологии искусственного интеллекта, и этот выбор определяет, будут ли и насколько хорошо полученные персонажи и опыт отражают различные полы и наследие ».
Аманда Филлипс, автор книги «Проблемы геймера: феминистские конфронтации в цифровой культуре», также осторожно относится к тому, чтобы стимулировать перемены исключительно к разным людям в командах ИИ. «Наличие разноплановой команды абсолютно необходимо для того, чтобы обеспечить рассмотрение большего количества аспектов дизайна, важно не фетишизировать недостаточно представленных и маргинализированных людей как решения проблем, которые часто имеют очень глубокие корни в корпоративной и отраслевой практике», - говорит Филлипс. «Это оказывает огромное давление на людей, у которых часто меньше гарантий занятости, влияния и ресурсов для обучения своих коллег (и руководителей) вопросам, которые могут быть очень личными. Это то, что обычно называют подходом «добавить разнообразия и волнения», когда компании привлекают «разных» людей и ожидают, что они инициируют изменения без каких-либо соответствующих изменений на рабочем месте.
«Команды должны диверсифицироваться, но им также необходимо нанимать консультантов, проверять свои собственные практики, вносить организационные изменения, встряхивать структуру руководства - все, что необходимо для обеспечения того, чтобы люди с точками зрения и знаниями понимали многообразие и равенство в коллективе. иметь право голоса и возможность влиять на выпуск продукции ».
Одним из наиболее фундаментальных элементов, бессознательно формирующих ИИ, является склонность игровой индустрии рассматривать видеоигры исключительно как противоборствующие системы, где роль ИИ заключается в создании союзников или врагов, более эффективных в бою. Но если мы посмотрим за пределы основной индустрии, мы действительно увидим альтернативы. Кодер и профессор Нью-Йоркского университета Миту Хандакер вместе с технологом Латойей Петерсоном основали свою студию Glow Up Games, чтобы создавать социальные повествовательные игры для разнообразной аудитории. В настоящее время команда работает над Insecure: The Come Up Game, симулятором жизни для смартфонов, основанным на популярном сериале HBO, который исследует отношения между персонажами.
«Что меня действительно интересует как дизайнера, так это то, как мы создаем инструменты, позволяющие игрокам создавать забавные системы искусственного интеллекта или агентов искусственного интеллекта, с которыми могут играть другие люди?» - говорит Хандакер. «Я говорю это целую вечность - существует более широкий культурный вопрос о том, насколько важно создать читабельность ИИ - создание способа для людей понять, как ИИ вообще работает - и мы можем сделать это, открыв им доступ к ИИ. игривый образ. Фактически это просто компьютеры, выполняющие некоторые вычисления и пытающиеся предсказать, что они должны делать. Это не волшебство, но, безусловно, то, что оно производит, может быть восхитительным ".
Студия разработки Tru-Luv, создавшая чрезвычайно успешное приложение Self-Care, работает над технологиями искусственного интеллекта, которые отражают собственную разнообразную, прогрессивную и поддерживающую студийную культуру. «В настоящее время наша компания на треть состоит из BIPOC [чернокожие, коренные и цветные] и на две трети - женщины», - говорит основательница студии Бри Код. «Наша исполнительная команда на 100% состоит из женщин, а в нашем совете директоров одна треть BIPOC и две трети женщины. Мы работаем с консультантами и партнерскими организациями из новых сообществ разработчиков, таких как Пакистан, Тунис и Марокко ».
Как и Хандакер, Code утверждает, что разносторонний персонал не просто устранит проблемные предубеждения, связанные с обычными играми, но и позволит разработать новый интерактивный опыт. «В течение нескольких лет игровая индустрия фокусировалась на узком подмножестве человеческой психологии», - говорит она. «Это очень хорошо для создания опыта, который помогает людям ощутить чувство достижения или превосходства. Игровой ИИ, созданный разноплановой рабочей силой, оживит неигровых персонажей и наполнит их опытом, который представляет широту и глубину человеческого опыта. Мы увидим больше переживаний, отличных от нулевой суммы, больше сострадания, больше эмоционального резонанса, больше понимания, больше трансцендентности. Мы увидим новые формы игры, в которых чувства творчества, любви и радости используются больше, чем триумф или господство ».
По мере того, как разработчики начинают понимать и использовать большую вычислительную мощность современных консолей и высокопроизводительных ПК, сложность систем ИИ будет расти параллельно. Разработчики будут исследовать такие элементы, как обработка естественного языка, моделирование игроков и машинное обучение, для разработки творческих, реактивных ИИ-персонажей при содействии новых компаний-производителей промежуточного программного обеспечения ИИ, таких как Spirit AI и Sonantic; миры начнут рассказывать свои собственные истории, дополняющие истории, написанные гейм-дизайнерами и писателями. Но именно сейчас этим командам нужно подумать о том, кто кодирует эти алгоритмы и какова цель.
«[У нас] прекрасная возможность создать« новую нормальность », - говорит Джаярам. «Мы можем отвергать стереотипы в изображении, использовать различные данные для моделей машинного обучения и гарантировать, что алгоритмы, лежащие в основе игр, способствуют справедливости и уважению вне зависимости от пола и этнической принадлежности».
Майк Кук соглашается. «Прямо сейчас область игрового ИИ в основном состоит из мужчин и белых, а это означает, что мы упускаем из виду точки зрения и идеи многих людей», - говорит он. «Разнообразие - это не просто избегание ошибок или вреда - это свежие идеи, разные способы мышления и новые голоса. Диверсификация игрового ИИ означает, что блестящие люди смогут воплощать свои идеи в жизнь, а это значит, что вы увидите, как ИИ применяется так, как вы раньше не видели. Это может означать изобретение новых игровых жанров или наполнение ваших любимых игровых серий свежими идеями.
«Но также разнообразие означает признание того, что каждому должна быть предоставлена возможность внести свой вклад. Если бы Уилл Райт был чернокожей, были бы сделаны The Sims? Если мы не откроем для всех такие дисциплины, как игровой ИИ, то мы упустим каждого черного гения, каждого женского гения, каждого квир-гения, мы упустим те удивительные идеи, которые у них есть, огромные изменения, которые они могут внести. . »
