Если продвинутый ИИ (искусственный интеллект) обретёт способность реконструировать сам себя, то человечеству придет конец. Так считали Стивен Хокинг и Стюарт Рассел. Это была одна из причин создания некоммерческой исследовательской компании OpenAI.
В одном из проектов они заставили ИИ играть в прятки.
Есть 2 команды — красная и синяя. Задача синих — спрятаться, а задача красных, соответственно, поймать синих. Так же и синие, и красные могут блокировать блоки для другой команды чтобы они не могли их двигать. Так как этот ИИ самообучающийся, то по началу игры были сумбурными, обе команды просто бегали по карте, и побеждали в основном красные. Но затем прячущееся научились закрывать проходы блоками и красные не могли пробраться к синим.
Но затем красные заметили рампу. И они начали брать её, подносить к стене и забираться в комнату к синим.
Синим это не понравилось и вскоре они научились убирать рампу, но это было возможно только если они делали все сообща.
Но это была не единственная карта, на которой играл ИИ. На другой карте синий спрятался за двумя блоками и думал, что красный его не достанет. Но ИИ нашел баг игры. С помощью заблокированной рампы он забрался на куб и, стоя на нем, начал его передвигать и при этом он двигался вместе с кубом. Таким способом он смог попасть в, казалось бы, закрытую комнату.
После этого синие начали блокировать все блоки и тут уже у красных не было ни малейшего шанса выиграть.
На этом можно закончить статью, но хотелось бы упомянуть пару интересных случаев.
Тут синие нашли способ просто выкинуть рампу за карту.
Но и красные смогли с помощью бага с рампой перекинуть себя к синим.
Результаты экспериментов были невероятны. Вскоре OpenAI планируют расширить и модифицировать эту систему для других задач.
Источник: https://www.youtube.com/watch?v=0vbk1wG7gqs