Слышали новость?
DeepMind (это подразделение Google, те, кто делают AlphaGo) взялись за Eve Online.
И не просто так, а чтобы обучить свой ИИ на действиях живых игроков. Их там четверть миллиона, активных. Игра, напомню, существует 20 лет.
Я сначала подумал шутка.
Потом прочитал детали. И стало не по себе.
Почему Eve, а не какая нибудь простая стрелялка?
Потому что Eve Online это не шутер. Это социальный ад в космосе.
Там:
- кланы (корпорации) воюют годами
- шпионаж норма дела
- предательства случаются каждый день
- экономика настоящая, с инфляцией и крахами
Один игрок управляет цепочками поставок. Другой дипломатией. Третий проектирует корабли.
И все это происходит в реальном времени, без перезапусков.
DeepMind говорит: мы возьмем данные с серверов CCP Games (разработчики). Будем изучать социальное взаимодействие, сотрудничество, обман и логистику.
Звучит круто. Но вот что меня пугает
Eve это живой организм. Там есть клан Goonswarm. Они управляли целыми секторами космоса. Договаривались с другими альянсами. А потом сливали их при первой возможности.
Как ИИ научится такой дипломатии?
Он не просто должен щелкать кнопки быстрее человека. Он должен понимать, когда врать. Когда доверять. Когда устроить заговор.
Мы сами не знаем, как мы это делаем. Мы просто играем.
А машина подсмотрит. Выведет формулы. И потом?
Реакция игроков не радость, а страх
На Reddit народ пишет прямо:
"Они что, хотят получить ИИ, который будет кидать корпорации ради прибыли?"
"Представьте, что ИИ выиграет войну в Eve. А потом этот же алгоритм начнет советовать в реальном бизнесе или в армии ".
"Боты в Eve уже проблема. А тут легитимный бот от Google, который учится на лучших ".
Один парень привел пример. В 2018 году в Eve произошла битва при B R5RB. Уничтожили кораблей на 300 тысяч долларов реальных денег.
Почему?
Потому что один игрок забыл заплатить налоги.
Как алгоритм просчитает такое? Никак.
DeepMind уже тренировал ИИ на StarCraft II
И тот обыграл чемпионов.
Но StarCraft это про скорость реакции и микроменеджмент. Кликай быстрее выигрываешь.
Eve про скорость принятия решений. И про цену ошибки.
В StarCraft ты потерял юнита построил нового за минуту.
В Eve корабль, который ты строишь три месяца, может взорваться за секунду. Из за того, что поверил не тому человеку.
Как ИИ поймет, кому доверять?
И как он убедит другого игрока не атаковать?
Это психология, а не математика.
Что будет дальше два сценария
Либо ИИ станет идеальным манипулятором. Он будет шпионить, предавать, договариваться лучше любого человека. И тогда в Eve не останется живых игроков всех сожрут боты от Google.
Либо он зависнет на старте. Потому что люди слишком непредсказуемы. Алгоритм просто не сможет обработать столько иррациональных решений.
Честно? Я ставлю на первый вариант. DeepMind не идиоты. Они не стали бы брать Eve, если бы не знали, как подступиться.
И последнее, что бесит
Игрокам заплатят за то, что их действия используют для обучения?
Или это очередная схема Google взять бесплатно ценные данные, обучить на них суперинтеллект, а потом продавать его корпорациям?
Вопросы без ответов.
А через год, если увидите в Eve клан "DeepMind Experimental ", который выигрывает все войны не удивляйтесь.