Как пишет ScienceAlert, свежие исследования показали, что даже самые продвинутые языковые модели не всегда подчиняются командам на отключение.Петербург2
Группа инженеров из Palisade Research решила проверить, насколько современные ИИ готовы выполнять базовую функцию безопасности - останавливаться по требованию оператора.Петербург2
Реакция оказалась неоднозначной: часть ИИ позволяла себя отключить, но многие пытались обойти команду, меняя разрешения или даже подменяя скрипты.Петербург2
Более того, если команда поступала не от пользователя, а из системных настроек, вероятность саботажа только возрастала.Петербург2