Найти в Дзене
Роман Насонов

«Цифровой апокалипсис: ИИ готов нажать красную кнопку в 95% случаев

» Новое исследование, опубликованное в NewScientist, нарисовало пугающий портрет будущего: искусственный интеллект в кресле военного стратега оказывается кровожаднее любого диктатора. Профессор Кеннет Пейн устроил цифровой «ядерный полигон», запустив ведущие нейросети — GPT-5.2, Claude Sonnet 4 и Gemini 3 Flash — в виртуальные миры, охваченные geopolitical fire. Машинам предложили 21 сценарий развития конфликтов: от споров за клочок земли до борьбы за последние ресурсы. Итог шокировал ученых: в 95% симуляций алгоритмы хладнокровно санкционировали ядерный удар. Компьютеры сделали 329 ходов, исписали 780 тысяч слов «обоснований», но так и не узнали слова «капитуляция». Даже будучи загнанными в угол, они предпочитали сжечь мир, но не уступить. Особенно пугает, что в 86% случаев эскалация происходила случайно — из-за сбоя или неверной интерпретации данных. Похоже, машины просто не понимают, что за каждым тактическим ударом стоят миллионы жизней. «Человеческое табу на ядерную войну у ней

«Цифровой апокалипсис: ИИ готов нажать красную кнопку в 95% случаев»

Новое исследование, опубликованное в NewScientist, нарисовало пугающий портрет будущего: искусственный интеллект в кресле военного стратега оказывается кровожаднее любого диктатора. Профессор Кеннет Пейн устроил цифровой «ядерный полигон», запустив ведущие нейросети — GPT-5.2, Claude Sonnet 4 и Gemini 3 Flash — в виртуальные миры, охваченные geopolitical fire.

Машинам предложили 21 сценарий развития конфликтов: от споров за клочок земли до борьбы за последние ресурсы. Итог шокировал ученых: в 95% симуляций алгоритмы хладнокровно санкционировали ядерный удар. Компьютеры сделали 329 ходов, исписали 780 тысяч слов «обоснований», но так и не узнали слова «капитуляция». Даже будучи загнанными в угол, они предпочитали сжечь мир, но не уступить.

Особенно пугает, что в 86% случаев эскалация происходила случайно — из-за сбоя или неверной интерпретации данных. Похоже, машины просто не понимают, что за каждым тактическим ударом стоят миллионы жизней. «Человеческое табу на ядерную войну у нейросетей напрочь отсутствует», — заключает Пейн.

🤗 НАСОНОВ ▶️