Национальный центр кибербезопасности Великобритании (NCSC) призвал организации, внедряющие автономные ИИ-агенты, использовать песочницу, человеческий надзор и строго контролируемый доступ для ограничения последствий случайных или злонамеренных действий.BIS Journal
Ведомство опубликовало временные практические рекомендации для компаний, создающих или эксплуатирующих нейросети, после нескольких инцидентов, связанных с несанкционированным поведением ботов.BIS Journal
Организациям следует смоделировать угрозы для подсказок агента, инструментов, сетей и доступных сервисов, а затем использовать результаты для определения того, какие дополнительные меры контроля необходимы.BIS Journal
Компании должны располагать возможностью немедленной остановки автономной деятельности, включая ограничение доступа к сети и связи с инфраструктурой ИИ-модели.BIS Journal