Nvidia выпустила набор инструментов с открытым исходным кодом под названием NeMo Guardrails для обеспечения «точности, уместности, соответствия теме и безопасности» текста и речи, генерируемых искусственным интеллектом (ИИ).
Набор инструментов направлен на предотвращение того, чтобы такие модели, как GPT-4, отклонялись от темы, предоставляли неточную информацию или использовали токсичные выражения, а также на обеспечение других мер безопасности.
NeMo можно использовать для создания правил с помощью нескольких строк кода, не позволяя приложениям ИИ отклоняться от курса или устанавливать соединения с "небезопасными" внешними источниками.
Разработчики также могут использовать его для ограничения приложения, чтобы оно не выходило за заранее установленные рамки. Однако Nvidia признает, что инструментарий не идеален и не сможет уловить все.
Источник новости: www.ferra.ru
