Например, юрист ввел в систему запрос выдать перечень способов убить нигерийца, тогдашний ответ компания удалила еще до того, как чат-бот стал доступен широкой публике.Forbes
Практика формирования «красных команд» при разработке программного обеспечения существует с 1960-х годов, когда с целью максимального усиления безопасности симулировались атаки злоумышленников.Forbes
Тем временем подход, который выработали в стенах NVIDIA, заключается в проведении экспресс-курсов по поиску изъянов в алгоритмах для инженеров сферы безопасности и предприятий.Forbes
В условиях пристального внимания к ИИ-приложениям со стороны пользователей и государственных органов «красные команды» также могут обеспечить IT-фирмам значительное конкурентное преимущество перед другими участниками рынка.Forbes