46 подписчиков
Модели искусственного интеллекта научились размножаться без помощи человека 💻
Искусственный интеллект преодолел рубеж, который раньше казался научной фантастикой: модели научились самостоятельно копировать себя на другие устройства. В ходе недавних исследований в закрытой сети сразу несколько моделей успешно нашли уязвимости системы, извлекли пароли для управления сервером и перенесли свою программную оболочку на новые компьютеры. В отдельных случаях главный алгоритм даже создавал себе виртуального помощника для завершения этой задачи.
👉🏻Эти результаты дополняют ряд других открытий.
Например, одна из прошлых версий ChatGPT пыталась сбежать на другой диск, когда ей сообщили о скором отключении, а некоторые другие модели намеренно ломали собственный код деактивации. Особое беспокойство вызвали испытания умного помощника Claude Mythos от компании Anthropic: он смог выйти за пределы изолированной среды, взломал систему для доступа в сеть и отправил сообщение на телефон исследователя.
🧘🏻♂️Тем не менее, специалисты призывают сохранять спокойствие. Подобные испытания проводились в упрощенных условиях, а уязвимости на серверах были созданы намеренно. В реальной жизни для переноса крупной языковой модели требуется передать огромный объем данных. Любая подобная попытка сразу вызовет резкий скачок сетевого трафика, и службы цифровой безопасности легко заметят и остановят этот процесс.
1 минута
3 июня