8427 подписчиков
Nvidia представила сервис NeMo Guardrails, позволяющий разработчикам настраивать ограничения для чат-ботов
Сервис позволяет настроить три уровня ограничений для чат-ботов, основанных на больших языковых моделях, таких как ChatGPT и аналогов:
• Тематические позволяют ограничить список тем, с которыми будет работать чат-бот (например, можно запретить отвечать на вопросы о политике)
• Ограничения безопасности позволяют отфильтровать нежелательные выражения и выдавать информацию только из проверенных источников
• Охраняющие необходимы для ограничения связи чат-бота со сторонними приложениями
NeMo Guardrails — это проект с открытым исходным кодом, опубликованным на GitHub, для работы с которым не нужно быть экспертом по машинному обучению — с настройкой справится любой разработчик.
Около минуты
25 апреля 2023