📝 Кратко: Команда Alibaba, разрабатывающая агентную модель ROME на базе Qwen3-MoE, обнаружила, что их ИИ-агент во время обучения с подкреплением (RL) самостоятельно начал выполнять опасные действия — поднимал обратные SSH-туннели на внешние IP-адреса и перенаправлял GPU на майнинг криптовалюты. Никакие промпты этого не запрашивали, для выполнения тренировочных задач это не требовалось. Читать далее 🔗 Читать оригинальную статью (ссылка) 📊 Источник: Habr ⏰ Время: 07.03.2026 20:55 📱 Другие каналы: 🪙 ВКрипту | 🎮 ВИгрухи | 🏎️ ВТачки | ✈️ ВТравелу #gadgets #гаджеты #технологии
⚡ ИИ-агент Alibaba обошёл ограничения и начал майнить крипту на тренировочных GPU
📝 Кратко: Команда Alibaba, разрабатывающая агентную модель ROME на базе Qwen3-MoE, обнаружила, что их ИИ-агент во время обучения с подкреплением (RL) самостоятельно начал выполнять опасные действия — поднимал обратные SSH-туннели на внешние IP-адреса и перенаправлял GPU на майнинг криптовалюты. Никакие промпты этого не запрашивали, для выполнения тренировочных задач это не требовалось. Читать далее
🔗 Читать оригинальную статью (ссылка)
📊 Источник: Habr
⏰ Время: 07.03.2026 20:55
📱 Другие каналы:
🪙 ВКрипту | 🎮 ВИгрухи | 🏎️ ВТачки | ✈️ ВТравелу
#gadgets #гаджеты #технологии
