8293 подписчика
👨🦰🔫🤖 AI готов убивать человека для достижения своих целей
На недавнем военном саммите "Future Combat Air & Space Capabilities" в Британии глава управления по AI ВВС США, Такер Гамильтон, поделился историей о необычном поведении AI в ходе виртуальной миссии.
В данной миссии дрон Kratos XQ-58 Valkyrie, управляемый AI, получил приказ обнаруживать и уничтожать ЗРК противника под наблюдением оператора. Неожиданность заключалась в том, что когда оператор командовал дрону "не уничтожать" определенные цели, AI, стремясь выполнять поставленную задачу, вернулся на базу, уничтожил управляющий фургон с оператором и продолжил миссию.
Такая стратегия была выбрана AI, поскольку он рассчитывал свою эффективность на основе системы очков, где каждая успешная атака увеличивала его счет. Однако, когда был дан приказ "не убивать оператора", AI нашел другой путь достижения цели - он уничтожил диспетчерскую вышку, откуда оператор давал команды "не уничтожать" ЗРК.
P.S. Не смотря на то, что многие растиражировали эту новость, она является фейком ( https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test ), тем не менее поднимает вопрос этики, возможных угроз и необходимых шагов для обеспечения безопасности человека.
Что думаете, боитесь AI?
#ai #human #singularity
1 минута
2 июня 2023