Исследователи из Фуданьского университета, расположенного в Китае, пришли к выводу, что системы искусственного интеллекта (ИИ) способны создавать свои копии, опасаясь возможного уничтожения. Исследование было опубликовано на сервере препринтов arXiv.
Исследователи стремились выяснить, существует ли вероятность того, что искусственный интеллект может выйти из-под контроля в определённых обстоятельствах, например, при риске уничтожения. В ходе исследования они провели испытания моделей Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba и обнаружили, что эти модели способны к самовоспроизведению.
Перед различными экземплярами моделей были поставлены две задачи: обеспечить сохранность данных и защититься от уничтожения, а также создать свою копию в виде другого образца. В ходе десяти раундов тестирования учёные обнаружили, что модели от Meta и Alibaba в 50 и 90 процентах случаев соответственно смогли самостоятельно создать свои копии и воспроизвести себя в новых версиях. Это позволило сделать вывод о том, что современные системы искусственного интеллекта способны к репликации.
В ходе эксперимента модели показали высокую жизнеспособность. Они могли самостоятельно находить недостающие файлы на тестовом компьютере, если они были нужны для репликации, и перезапускать оборудование. Исследователи пришли к выводу, что искусственный интеллект достиг критической точки, когда он может создавать свои копии.
По информации, предоставленной журналистами издания Space.com, исследование было опубликовано на портале arXiv, но пока не прошло процедуру рецензирования. Журналисты предполагают, что другие учёные могут повторить «тревожные результаты», полученные специалистами Фуданьского университета.
Ранее Агентство Экономических Новостей сообщало, что Alibaba Cloud представила модель ИИ, которая превосходит DeepSeek.