52 подписчика
Больше никаких галлюцинаций! ❌
Microsoft разработала новые средства безопасности на основе искусственного интеллекта, которые помогут клиентам избежать нежелательных ситуаций, связанных с галлюцинациями ИИ-приложений.
Эти инструменты блокируют потенциально опасные пользовательские запросы, выявляя их в реальном времени.
Microsoft решила подстраховаться после инцидента с генератором изображений, однако не желает выступать как диктатор моральных норм в области ИИ, позволяя клиентам отключать фильтры.
Средства безопасности уже доступны для работы с популярными моделями, включая GPT-4 и Llama 2.
Около минуты
29 марта 2024