Разработчик Claude раскрыл новые случаи попыток применить искусственный интеллект во вредоносных целях. Компания блокировала аккаунты, связанные с цифровыми атаками, наблюдением и информационными кампаниями.
Отдельный эпизод затронул биологические исследования. Пользователь просил систему помочь составить грантовую заявку для экспериментов по изменению вируса чикунгунья.
Такая работа могла сделать возбудитель более передаваемым и устойчивым к иммунному ответу. Как пишет Associated Press, Anthropic расценила запрос как опасное применение технологии двойного назначения.
Компания заявила, что прекратила доступ к модели и усилила защиту в более новых системах, включая Claude Fable 5. Предыдущие модели считались менее способными помогать в сложных вредоносных исследованиях.
Это третий публичный доклад Anthropic о злоупотреблениях начиная с марта 2025 года. В него также вошли действия государственных групп, компаний по продаже программ слежки и авторов политической пропаганды.
Читайте также: