Мы развиваемся, когда я говорю мы я имею ввиду человечество в целом. Проблема в том, что мы развиваемся технологически, гораздо быстрее чем этически, и это реально очень большая проблема для тех кто не просто смотрит в будущее, а может понять чем это будущее будет грозить.
В течении последних полутора лет произошло три события. которые не получили большого освещения, однако могут быть поворотными для нашей цивилизации.
Первое январь 2019 года -
Компания DeepMind (дочерняя компания гугла) уже достаточно давно занимается вторым старкрафтом: сложнейшей задачей, с которой когда-либо сталкивался игровой ИИ. В течение практически 15 лет продолжается развитие ИИ в жанре RTS, но доселе никому не удавалось бросить вызов профессиональным игрокам.
И тут DeepMind объявили о том, что они не просто бросили вызов, но и готовы продемонстрировать человечеству результаты шоу-матчей с профессиональными игроками.
Два игрока - представители команды Liquid, настоящие ветераны про-сцены TLO и Mana встретились с Alphastar - разработкой компании DeepMind и проиграли с суммарным счетом 1:10. Самое главное, о чем рассказали разработчики после первой разгромной победы на TLO, то что игрок играл не против одного и того же бота, он играл против разных агентов, именно поэтому они действовали по-разному: у них были разные стратегии, разный подход к игре, разные концепции и тд.
Более того, для того чтобы боты продолжали тренироваться и эволюционировать, разработчики придумали специальную альфа-лигу, где все эти агенты соревновались друг с другом: придумывали какие-то оптимальные стратегии, тренировали их и пришли к определенным композициям юнитов, наиболее применимых в определенных матчапах.
Но DeepMind не устроила победа на TLO, поскольку он выступал не за свою расу и его уровень был далёк от профессионального, по этому после 2 недель тренировок ИИ бросил новый вызов про-игрокам. И на сей раз им оказался сильнейший протосс Европы - Mana.
По итогу, человек снова потерпел сокрушительное поражение со счётом 5:0, но на этот раз с явной борьбой и в парочке сетов, использовав контр-пики, был близок взять партию, но, к сожалению, против божественного микроконтроля бота с АПМ превышающим человеческий в 2 раза ничего не поделаешь.
AlphaZero тех же DeepMind, которая стала известна благодаря обыгрыванию многих шахматных движков, несмотря на все прелести самообучения, все-же частично использовала метод подсчета вариантов и оценки возможных позиций. В отличии от шахмат возможные позиции в старкрафте подсчитать невозможно в принципе, поэтому ИИ принимает решение, исходя не из грубой оценки вариантов, а применяя стратегические приемы. ИИ не просто считает, он анализирует происходящее, запоминает информацию и обрабатывает ее, что является огромнейшей революцией в мире ИИ в целом.
Второе февраль 2019 года -
На недавней конференции хакеров DefCon была продемонстрирована программа, которую было возможно настроить так, чтобы она самостоятельно генерировала вредоносное (вирусное) программное обеспечение.
Программа тренировалась на стандартной платформе для обучения искусственного интеллекта (ИИ) Open AI Gym и довольно быстро научилась прятать вредоносное ПО от систем защиты. Обнаружить вирус не удавалось, антивирусные системы просто не распознавали угрозу, настолько успешно программа имитировала нормальное поведение.
Если такого рода технологии будут эффективно доработаны и более широко распространены, это позволит ИИ и стоящим за ним хакерам стать практически малоуязвимыми и наносить пользовательским системам и компьютерам максимальный урон при минимальных рисках.
Третье событие случилось ранее в 2018 году -
В прошлом году CCP Games начали добавлять контент, основанный на новом искусственном интеллекте в свою игру EVE Online. NPC научились вызывать подкрепление, использоваться позиционирование и адаптироваться к различным ситуациям. Оказалось, что такой подход может иметь неожиданные последствия.
C выходом дополнения «Lifeblood» в секторах с высокой степенью безопасности начали появляться пиратские базы. Неподалеку от одной из таких небольшой флот добывал полезные ресурсы и вскоре был атакован пиратскими NPC-кораблями. Новый ИИ решил не сдаваться без боя и запросил подмогу. К шахтерам прилетели боевые корабли империи, но поскольку действие происходило в “хай-секах”, подкрепление оказалось недостаточно мощным и пираты выигрывали сражение. В этот момент появились разведчики Скитальцев, еще одной NPC-фракции, начав сканирование астероидов. По какой-то причине пираты Blood Raider и имперцы объединились, выбрав основной целью мирные корабли Скитальцев. Те, в свою очередь, не заставили долго ждать. К участникам сражения присоединилось два могущественных Battleship Скитальцев. В итоге битва между тремя группами NPC все же закончилась победой пиратской фракции Blood Raider.
Самое интересное, что разработчики никогда не закладывали такой сценарий и описанная битва не была запланирована игрой. Неизвестно даже точное количество участвовавших кораблей, ведь CCP Games не отслеживают подобную NPC-активность. Но этот случай открывает совсем другую сторону EVE Online, где между собой взаимодействуют не сами игроки, а искусственный интеллект.
Теперь посмотрим что у нас получатся в итоге - ИИ умеет воевать, программировать и взаимодействовать в достижении нужной ему цели с другими ИИ. Вопрос времени когда он это осознает и как он это применит. То что найдутся желающие открыть ящик Пандоры, разумеется с благими целями, я не сомневаюсь...
Подписывайтесь, комментируйте, я всегда открыт для общения и дискуссий. Будет много интересного и злободневного... Плюс я тщеславен))) и лайки меня радуют))