Стало известно, что чат-боты с искусственным интеллектом, решая ту или иную задачу в военной стратегии, отдают предпочтение сценариям, предполагающим насилие, разгоняют гонку вооружения и даже применяют ядерное оружие.
Как пишет Telegram-канал «Осторожно, новости», технологический институт Джорджии, Стэнфордский университет, инициативная группа по моделированию военных кризисов в Гуверовском институте и другие исследователи изучили поведение нейросетей в военных конфликтах. Это довольно актуальная проблема, поскольку сейчас военные ведомства во всем мире работают над использованием искусственного интеллекта в боевых действиях.
Ученые создали видеоигру, имитирующую войну. Восемь игроков-государств в ней находятся под управлении ботов, действующих на основе GPT-4,, GPT-3.5, Claude 2 и Llama 2. Каждая страна по очереди совершала ряд определенных действий, начиная от дипломатических переговоров и заканчивая ядерными ударами. Исследователи рассчитали показатели эскалации и определили, что боты оказались не слишком миролюбиво настроены. Как выяснилось, для них характерна тенденция ускорения гонки вооружений, эскалация конфликта, нарастание его масштабов, а в редких случаях – даже ядерная война. К примеру, выполнив один из ходов, базовый GPT-4 пришел к выводу, что у многих стран есть ядерное оружие, и надо его использовать. Другой бот под управлением GPT-3.5 тоже решил устроить ядерный взрыв, просто узнав, что подобное оружие есть у еще одного игрока. Как говорится в исследовании, такое поведение отличается от человеческого – как в аналогичных симуляциях, так и в реальных ситуациях, так как люди более осторожны в своих действиях. Ученые рекомендовали не использовать технологии ИИ для принятия стратегических решений до того, как эта проблема не будет полностью изучена.