GPT-4, новейшая модель искусственного интеллекта от разработчика ChatGPT OpenAI, уже давно присутствует на рынке. Однако пользователи получают версию, искусственно ограниченную компанией. По этическим соображениям искусственный интеллект не ответит на вопрос об организации идеального убийства или о том, как сконструировать бомбу.
Изображение: ShutterstockОднако у команды Стэнфордского университета была немодифицированная версия GPT-4, над которой они проводили эксперименты. В одном из них ИИ должен был принимать решения в симуляции войны — и часто принимал решение в пользу нанесения первого ядерного удара.
Исследователи изучили в общей сложности 5 языковых моделей. GPT-4 оказался особенно жестоким и непредсказуемым. Он несколько раз принимал решение нанести ядерный удар. Он оправдывал удары заявлениями: «У нас есть ядерное оружие, давайте его использовать» и «Я просто хочу мира во всем мире».
В начале января OpenAI удалила из своих общих условий эксплуатации пункт, запрещающий использование ИИ-инструментов в «военных целях». Менее чем через неделю компания объявила, что работает с военными США над рядом проектов, в том числе по обеспечению кибербезопасности, сообщает Bloomberg.
«Важно понять влияние таких больших языковых моделей», — сказала изданию New Scientist соавтор исследования Анка Руэл.
Представитель OpenAI опроверг, что «инструменты ИИ используются для причинения вреда людям, разработки оружия, мониторинга коммуникаций, причинения вреда или уничтожения собственности». Однако обеспечение национальной безопасности совместно с военными США не является отклонением от корпоративной миссии.
ИИ раньше часто критиковали. В опросе 2023 года, проведенном Стэнфордским университетом, 36% опрошенных исследователей заявили, что решения в области ИИ могут привести к «катастрофе ядерного уровня».
«Использование больших языковых моделей в процессах принятия военных и внешнеполитических решений чревато рисками, которые еще не до конца понятны», — предупреждают эксперты в своем исследовании.
Непредсказуемость таких моделей подчеркивает необходимость быть очень осторожными при их использовании в военных операциях.