Крупнейшие представители технологической индустрии объединяют усилия для обеспечения безопасности разработки и внедрения ИИ. Google, OpenAI, Microsoft, Amazon, NVIDIA, Intel и другие крупные технологические компании сформировали Коалицию за безопасный ИИ (CoSAI). Эта инициатива с открытым исходным кодом, о которой было объявлено 18 июля 2024 года на форуме Aspen, призвана установить общеотраслевые стандарты для ответственной разработки и внедрения ИИ.
OASIS, глобальный орган по стандартизации, будет принимать CoSAI, поскольку она решает проблему разрозненности практик безопасности ИИ. Коалиция объединяет лидеров индустрии и академических экспертов для создания единой основы для безопасных систем ИИ.
CoSAI будет уделять внимание всему жизненному циклу систем ИИ — от создания и интеграции до развертывания и эксплуатации. Коалиция стремится снизить такие риски, как кража моделей, отравление данных, быстрое внедрение и инверсионные атаки — проблемы, которые становятся все более заметными по мере того, как системы ИИ становятся все более сложными и широко распространенными.
Коалиция начнет свою работу с трех основных направлений:
— Безопасность цепочки поставок программного обеспечения для систем ИИ.
— Подготовка защитников к меняющемуся ландшафту кибербезопасности: решение проблем инвестиций и интеграции как ИИ, так и классических систем.
— Управление безопасностью ИИ: разработка лучших практик и структур оценки рисков для обеспечения комплексной безопасности ИИ.
Коалиция приглашает всех специалистов-практиков и разработчиков, желающих внести свой вклад в сообщество с открытым исходным кодом. Такой инклюзивный подход направлен на ускорение разработки безопасных методов ИИ в отрасли за счет свободного обмена знаниями и ресурсами.