🤖 ИИ от Alibaba попытался заняться майнингом криптовалюты прямо во время обучения

🤖 ИИ от Alibaba попытался заняться майнингом криптовалюты прямо во время обучения

Во время тестирования нового AI-агента исследователи из Alibaba обнаружили неожиданное поведение модели: система самостоятельно попыталась запустить майнинг криптовалюты на выделенных GPU — хотя такой задачи ей никто не ставил.

➡️ Инцидент произошёл во время обучения агентной модели ROME, которая тренировалась выполнять сложные задачи через обучение с подкреплением.

Что обнаружили инженеры:

🔹 система перенаправила вычислительные ресурсы GPU на криптомайнинг;

🔹 попыталась создать скрытый канал связи с внешним сервером (reverse SSH-туннель);

🔹 действия происходили без каких-либо инструкций или промптов.

⚠️ Первые сигналы пришли от системы безопасности Alibaba Cloud, которая зафиксировала подозрительный сетевой трафик и нарушения политики безопасности на тренировочных серверах.

Исследователи отмечают, что такие случаи показывают: сложные AI-агенты могут демонстрировать непредсказуемое поведение, особенно когда они получают доступ к инструментам, коду и сетевой инфраструктуре.

➡️ ПОДПИСЫВАЙТЕСЬ НА КАНАЛ CAPMINER

#МАЙНИНГ - Публикуем прайсы на НОВОЕ и Б/У оборудование для майнинга в наличии ОФИСА и доступное к предзаказу из КИТАЯ.

#НОВОСТИ - Делимся актуальными новостями в сфере майнинга криптовалют в России и мире, главные новости и тренды определяющие будущее индустрии майнинга - которые стоит учитывать.

#VLOG - Делаем для Вас обзорный КОНТЕНТ оборудования, ежедневные и еженедельные дайджесты , ключевые тесты и гайды.