Nvidia выпустила набор инструментов с открытым исходным кодом под названием NeMo Guardrails для обеспечения «точности, уместности, соответствия теме и безопасности» текста и речи, генерируемых искусственным интеллектом (ИИ).Ferra
"Галлюцинирующий" инструмент искусственного интеллекта может, например, создавать ложные новостные репортажи или выдавать полностью сфабрикованный рассказ об историческом событии или человеке.Involta Technologies
NeMo можно использовать для создания правил с помощью нескольких строк кода, не позволяя приложениям ИИ отклоняться от курса или устанавливать соединения с "небезопасными" внешними источниками.Ferra
Однако Nvidia признает, что инструментарий не идеален и не сможет уловить все.Ferra