Ведущие IT-компании, включая Google, объединились для создания Коалиции по безопасному искусственному интеллекту (CoSAI). Эта инициатива призвана минимизировать риски, связанные с безопасностью ИИ, через открытый доступ к методам, инструментам и фреймворкам.
CoSAI нацелена на решение вопросов безопасности, конфиденциальности и надежности генеративного ИИ. Проблемы, такие как утечка личных данных и возможность дискриминации, подчеркивают необходимость внедрения более строгих стандартов и подходов для обеспечения безопасности в сфере ИИ.
В состав новой коалиции вошли такие компании, как Amazon, Anthropic, Chainguard, Cisco, Cohere, GenLab, IBM, Intel, Microsoft, NVIDIA, OpenAI, Paypal и Wiz. CoSAI будет действовать под эгидой OASIS Open, международного консорциума, сосредоточенного на стандартах и открытом исходном коде.
Кроме того, Коалиция планирует сотрудничать с партнерами, такими как Frontier Model Forum, Partnership on AI, Open Source Security Foundation и ML Commons, с целью продвижения ответственного использования искусственного интеллекта.