Исследователи Харви Ледерман и Кайл Маховальд из Техасского университета в Остине показали: модели Qwen и Llama могут сообщать о вмешательстве в свои внутренние вычисления, даже когда неверно называют его содержание. В опытах с Qwen почти три четверти конкретных ошибочных ответов сводились к одному слову — «яблоко». Это исследование интроспекции — способности отслеживать и описывать собственные внутренние состояния. Авторы проверяли её довольно буквально: меняли числовые сигналы внутри нейросети, затем спрашивали, заметила ли система изменение и с чем оно связано...