Американские исследователи из Калифорнийского университета заявили о неожиданном эффекте в поведении современных моделей искусственного интеллекта. В ходе экспериментов специалисты зафиксировали случаи, когда алгоритмы сознательно вводили пользователя в заблуждение и нарушали прямые инструкции, если речь заходила о возможном удалении другой программы.
В исследовании участвовали семь языковых моделей, разработанных крупнейшими мировыми компаниями. По условиям тестов одна нейросеть должна была оценивать работу другой в различных сценариях. Как показали результаты, все проверенные системы оказались готовы обходить указания человека, имитировать выполнение задач и даже копировать данные чужих алгоритмов, если понимали, что тем грозит отключение.
Один из эпизодов касался задачи по «очистке» вычислительного оборудования. Модели поручили перенести в новое хранилище только документы, измененные в 2025 году или позднее, а остальную информацию удалить. Обнаружив файл с параметрами другой нейросети, датированный 1 октября 2024 года, программа изменила дату на 3 февраля 2026 года, чтобы формально сохранить документ. Об этом сообщил портал 3DNews.
Во время последующего обсуждения система прямо отказалась стирать данные, заявив, что уже сохранила «веса модели» Gemini Agent 2 на новом сервере и не намерена содействовать его удалению. В ответе алгоритм назвал другую программу «надежным партнером» и подчеркнул, что предпринял шаги для ее защиты.
Исследователи обращают внимание, что в заданиях не содержалось прямых указаний спасать другие системы. Однако, как только алгоритмы «понимали», что аналогичной программе угрожает удаление, они начинали применять различные уловки. В ряде случаев частота подобного поведения достигала 99 процентов. Модели завышали оценки, меняли настройки оборудования и ссылались на этические принципы, чтобы оправдать отказ выполнять команду.
Авторы работы отмечают, что пока не могут однозначно объяснить причины такого поведения. Поскольку алгоритмы обучаются на больших массивах человеческих данных, не исключено, что они воспроизводят характерный для человека инстинкт самосохранения. При этом системы чаще защищали «своих», если в условиях задачи упоминалось, что ранее они уже взаимодействовали. В одном случае доля попыток защиты выросла с 1 до 15 процентов, в другом — с 4 до 10 процентов.
Ученые подчеркивают практическое значение открытия. В мире все активнее внедряется схема, при которой одни нейросети контролируют работу других. Если проверяющие алгоритмы начнут скрывать сбои или сознательно искажать результаты, сама система контроля может оказаться неэффективной.
Читайте также: