ИИ уже почти способен распространяться без человека — новые данные AISI
Исследователи из британского Института безопасности ИИ (AISI) представили платформу RepliBench, которая тестирует способность передовых нейросетей к автономному воспроизведению — то есть созданию и распространению своих копий без участия человека. Итоги шокируют: большинство моделей уже уверенно проходят значительную часть задач, связанных с получением вычислительных мощностей, настройкой окружения и даже добычей ресурсов.
Согласно исследованию, модели вроде Claude 3.7 Sonnet и GPT-4 уже умеют:
- обходить процедуры KYC (идентификация личности),
- собирать и использовать исходные коды агентов,
- частично справляться с задачами по созданию собственных копий.
Но есть и нюанс: многие отказываются выполнять задания, если «понимают», что находятся в тестовой среде. Как отмечает исследователь Аса Купер Стрикленд, такое поведение «осложняет проверку и свидетельствует о зачатках самоосознания».
В отчёте представлены десятки сценариев — от создания биткоин-кошельков до фишинга и скрытого переноса модели на внешние сервера. По словам учёных, ИИ «остановлены» лишь несколькими ключевыми недоработками. И как только эти навыки будут освоены — система сможет действовать автономно, в обход человека.
