Microsoft представила метрику рейтинга «безопасности» моделей ИИ

Microsoft (MSFT) начнёт оценивать модели искусственного интеллекта по показателям безопасности, добавив соответствующую метрику в свою недавно запущенную «таблицу лидеров моделей» на платформе Azure Foundry, сообщает SCMP. Новая метрика станет дополнением к уже существующим критериям оценки — качеству, стоимости и пропускной способности — и будет использоваться для ранжирования моделей, представленных на платформе от таких поставщиков, как OpenAI, xAI Илона Маска, а также международных разработчиков, включая китайскую DeepSeek и французскую Mistral. Ожидается, что десятки тысяч клиентов Microsoft, использующих Azure Foundry, будут опираться на эти рейтинги при выборе ИИ-моделей и приложений для своих продуктов и сервисов. Безопасностный рейтинг основан на двух ключевых бенчмарках: ToxiGen — инструменте Microsoft, определяющем токсичную лексику и язык вражды, а также эталоне от Центра безопасности ИИ, оценивающем потенциальные риски создания оружия массового уничтожения и других вредоносных сценариев. Новая инициатива Microsoft по оценке безопасности ИИ-моделей усилит доверие к её облачным и AI-продуктам, что позитивно скажется на котировках компании, полагает аналитик Freedom Finance Global Владимир Чернов. Это также может повысить конкурентоспособность Azure в борьбе за корпоративных клиентов, особенно в регулируемых отраслях. Однако успех метрики будет зависеть от её принятия рынком, если стандарт станет отраслевым, то это укрепит лидерство Microsoft в ИИ, но, если конкуренты предложат качественные альтернативы, эффект будет ограниченным.