51 подписчик
Одна ошибка – ИИ ошибся. Но функция Microsoft всё исправит 😎
Microsoft запустила новую функцию Content Safety в облачной платформе Azure для борьбы с ошибками генеративного ИИ.
Функция доступна в предварительной версии в Azure AI Studio и предназначена для обнаружения уязвимостей и предотвращения недопустимых запросов.
Content Safety анализирует ответы ИИ, выделяет ошибки и объясняет, почему информация неверна, корректируя её до того, как пользователь её увидит. Несмотря на это, функция не гарантирует полную точность ответов.
Похожие решения, например, используются и в корпоративной платформе Google Vertex AI, которая сверяет ответы с данными поисковой системы и сторонними источниками.
Около минуты
26 сентября 2024