Боты китайской технологической компании Tencent смогли обыграть встроенный алгоритм игры Starcraft II, который на высоких уровнях сложности видит карту целиком, что дает существенное преимущество. Предложенные разработчиками программы основаны на разных подходах: алгоритм TStarBot1 основан на методе глубокого обучения с подкреплением, а TStarBot2 руководствуется заранее прописанными правилами игры. Оба бота справляются с игрой с первого по десятый уровень.
Алгоритмы для игры в StarCraft (обе части) разрабатываются достаточно давно. К примеру, уже несколько лет проходят соревнования подобных программ в сети. Из-за своего жанра (StarCraft относится к стратегиям в реальном времени) игра очень сложна для обучения искусственного интеллекта: в ней пользователи видят не всю карту, а только ее часть, из-за чего им приходится ориентироваться на месте. Большинство из созданных алгоритмов, поэтому, проигрывают профи игрокам-людям, но их все равно продолжают разрабатывать и улучшать. В августе прошлого года компания Blizzard, выпустившая игру, даже опубликовала API для обучения игре алгоритмов машинного обучения. Сразу же в этом себя опробовала лаборатория Google DeepMind: созданной ими нейросети, однако, далеко продвинуться в игре не удалось. Немного позже, в октябре, своего бота представила компания Facebook, и он оказался слабее программ, созданных программистами-любителями.
Представить своих ботов решили разработчики из Tencent под руководством Пэна Суня. Оба бота тренировались играть зергами против зергов на карте Abyssal Reef, а оценка их работы — против встроенных ботов, живых игроков и друг друга — проходила там же. Бот TStarBot1 учился игре по методу глубокого обучения с подкреплением: в его основе — несколько микроалгоритмов, следящих за разными аспектами игры в процессе свободной игры-обучения, которое занимало несколько дней. В основе второго бота — обучение всем правилам игры, из которых на каждом этапе он учится выбирать наиболее эффективные.
Оба бота смогли обыграть встроенные алгоритмы на уровнях с первого по десятый. Интересно, что на последних трех уровнях встроенный алгоритм «жульничает»: в отличие от своего противника-игрока он видит всю карту целиком, что дает ему большое преимущество. Боты смогли обыграть компьютерного игрока и в этом случае. Их эффективность против встроенного алгоритма StarCraft II составила 81 процент на десятом уровне для TStarBot1 и 90 — для TStarBot2, при этом в игре друг против друга первый бот оказался сильнее: разработчики отмечают, что причиной этому то, что первый бот часто использует раш (быструю атаку в начале поединка), а второй к ней уязвим.
Разработчики Tencent известны и другими проектами. В частности, их отделение информационной безопасности в 2016 году смогло указать на изъян в программном обеспечении Tesla Model S, получив удаленный доступ к управлению автомобилем.