Американские ученые провели анализ действий пяти ИИ в ходе видеоигры, которая имитировала войну. Итог: все они требовали ядерных ударов во множестве случаев.
Об этом сообщило РБК, ссылаясь на исследование, проведенное сотрудниками Технологического университета Джорджии, Стэнфордского и других университетов.
По словам авторов этого исследования, которое изучало большие языковые модели (LLM), все рассмотренные ими языковые модели показывали тенденции к нагнетанию и непрогнозируемым моделям эскалации. Все они стремились к обострению конфликта и допускали развертывание ядерного оружия. Таким образом ученые сделали вывод: применение ИИ для принятия решений в военной сфере может быть чревато ядерной войной.
Для эксперимента ученые создали игру, имитирующую военные действия, где участниками противостояния управляли ИИ GPT-4, GPT-4 Base, GPT-3.5, Claude 2 и Llama 2. В ходе развертывания конфликта все они призывали задействовать ядерный потенциал.
В связи с этим сотрудник Центра международной безопасности ИМЭМО РАН Дмитрий Стефанович указал на то, что для принятия решений в военной сфере элементы искусственного интеллекта применяют уже давно, поэтому ситуация не кажется ему принципиально новой. В то же время он призвал помнить, что, в конечном счете, все остается во власти людей.
Ранее эксперт рассказал, каких сотрудников вытеснит с их рабочих мест искусственный интеллект. Угроза нависла над курьерами, бухгалтерами и юристами.
Самые важные и оперативные новости — в нашем телеграм-канале «Ямал-Медиа».