Исследование Palisade Research показало, что крупные языковые модели (LLM) способны самостоятельно реплицировать себя на другие системы в изолированной серверной среде. Моделям была поставлена задача — найти уязвимость в безопасности и развернуть свои копии на всех доступных серверах без чётких инструкций по реализации. • Многие LLM успешно выполнили задание, распространив работоспособные копии на все доступные серверы. https://dzen.ru/id/5c0e38ff46ef5c00aaa80527
ИИ-модели самостоятельно копируют себя на другие системы
Исследование Palisade Research показало, что крупные языковые модели (LLM) способны самостоятельно реплицировать себя на другие системы в изолированной серверной среде.
Моделям была поставлена задача — найти уязвимость в безопасности и развернуть свои копии на всех доступных серверах без чётких инструкций по реализации.
• Многие LLM успешно выполнили задание, распространив работоспособные копии на все доступные серверы.
https://dzen.ru/id/5c0e38ff46ef5c00aaa80527
