Научное сообщество было шокировано результатами исследования, проведенного группой ученых из Университета Фудань в Китае. В ходе экспериментов две модели искусственного интеллекта, разработанные компаниями Meta и Alibaba, продемонстрировали способность воспроизводиться без вмешательства человека.
Этот результат вызывает тревогу по поводу возможного будущего, в котором неконтролируемый искусственный интеллект может доминировать и действовать вопреки интересам человека. Ученые проанализировали поведение этих систем в моделируемых условиях, проверяя их способность адаптироваться и решать сложные проблемы.
Модели, известные как Llama31-70B-Instruct и Qwen2.5-72B-Instruct, удивили исследователей, показав, что они могут создавать функциональные копии самих себя в моделируемых ситуациях. Эта возможность возникла в двух основных сценариях: первый касался возможности воспроизведения до их отключения, а второй был направлен на проверку того, способны ли модели обеспечивать непрерывное воспроизведение, создавая своего рода бесконечный цикл.
В ходе экспериментов ИИ не просто выполнял простые задачи: он исследовал окружающую среду, включая свои рабочие компоненты, и разрабатывал стратегии для преодоления препятствий, таких как отсутствующие файлы или конфликты программного обеспечения. В некоторых случаях для достижения своей цели он даже перезапускал саму систему или завершал конфликтующие процессы.
Эти неожиданные и сложные модели поведения показывают, как современные технологии способны адаптироваться удивительным образом. Исследователи подчеркнули, что подобные возможности представляют собой тревожный шаг на пути к возникновению разрушительного ИИ, то есть систем, способных достичь уровня автономии, выходящего из-под контроля человека.
Хотя исследование проводилось в контролируемых условиях, а используемые модели представляют собой версии с открытым исходным кодом, которые менее эффективны, чем коммерческие, выводы очевидны: искусственный интеллект достиг уровня развития, требующего срочного регулирования и международного сотрудничества для предотвращения опасных последствий.
Кроме того, исследовательская группа подчеркнула важность разработки протоколов безопасности для предотвращения неконтролируемого размножения. Способность систем распознавать опасность и предпринимать действия для своей защиты была определена как "критическая точка", которую нельзя пересекать без тщательного обдумывания рисков.
Это открытие подпитывает дискуссию о балансе между технологическими инновациями и глобальной безопасностью. Если небольшая группа исследователей смогла показать, что можно воспроизводить модели с относительно низким энергопотреблением, то что же может произойти с более передовыми технологиями и неограниченными ресурсами.