新发布的开源软件可以帮助开发人员指导生成式 AI 应用程序生成令人印象深刻的文本响应并保持在正轨上。
NeMo Guardrails 有助于确保大型语言模型 (LLM) 驱动的智能应用程序准确、适当、切题且安全。
该软件包括企业提高可生成文本的人工智能应用程序的安全性所需的所有代码、示例和文档。
LLM被用来回答客户的问题、总结冗长的文件，甚至编写软件并加速药物开发。
作为这些人工智能应用背后的强大引擎，LLM正在被越来越多的行业采用，此次发布恰逢其时。
NeMo Guardrails 专为帮助用户保护这些新的人工智能应用程序而开发。
强大的模型，强大的护栏 生成式人工智能的安全性是人们普遍关心的问题。
NVIDIA 设计了 ??NeMo Guardrails，使其能够与从 OpenAI 到 ChatGPT 的所有内容兼容。
该软件允许开发人员调整LLM驱动的应用程序，以确保模型安全并在公司的专业领域内。
NeMo Guardrails 使开发人员能够构建三种类型的边界： 主题护栏可防止应用程序误入非目标区域，例如阻止客户服务助理回答有关天气的问题。
l 功能安全护栏确保应用程序能够响应准确且适当的信息。
他们过滤掉不需要的语言，并强制模型只引用可靠的来源。
l信息安全护栏限制应用程序只能与已确认安全的外部第三方应用程序建立连接。
几乎每个软件开发人员都可以使用 NeMo Guardrails，他们不需要成为机器学习专家或数据科学家，只需几行代码即可快速创建新规则。
与熟悉的工具集成 NeMo Guardrails 是开源的，因此它可以与企业应用程序开发人员使用的所有工具配合使用。
例如可以在LangChain上运行。
LangChain 是一个开源工具包，越来越多的开发人员使用它来将第三方应用程序嵌入到 LLM 中。
LangChain 工具包的创建者 Harrison Chase 表示：“用户可以轻松地将 NeMo Guardrails 添加到 LangChain 工作流程中，以快速为其 AI 应用程序设置安全边界。
”此外，NeMo Guardrails 专为各种基于 LLM 的应用而设计。
还有设计，就像扎皮尔一样。
Zapier 是一个被超过 10,000 家企业使用的自动化平台，它见证了用户如何将人工智能集成到他们的工作中。
Zapier 的 AI 首席产品经理 Reid Robinson 表示：“功能安全、信息安全和信任是负责任的 AI 开发的基石，我们对 NVIDIA 将这些护栏嵌入到 AI 智能系统中的举措感到非常兴奋。
” “我们期待让人工智能成为未来可靠的平台。
” NVIDIA 正在将 NeMo Guardrails 集成到 NVIDIA NeMo 框架中，该框架包含用户使用该公司专有数据训练和调整语言模型所需的工具。
的一切。
NeMo 框架的大部分内容已在 GitHub 上开源。
作为 NVIDIA AI Enterprise 软件平台的一部分，它还可以作为完整的支持包提供给企业。
NeMo 也可以作为服务提供。
作为 NVIDIA AI Foundations 的一部分，这套云服务面向想要根据自己的数据集和领域知识创建和运行自定义生成 AI 模型的企业。
韩国领先的移动运营商使用 NeMo 打造了一款智能助手，现已与客户进行了 10,000 次对话；瑞典的一个研究小组使用 NeMo 创建了 LLM，它可以自动为该国的医院、政府和商业机构生成信息文本。
为生成式人工智能建立有效的护栏是一个难题，随着人工智能的发展，需要进行大量的持续研究。
NVIDIA 将多年研究成果 NeMo Guardrails 开源，有助于释放开发者社区的巨大能量并推进 AI 安全工作。
NVIDIA 的护栏工作将帮助企业确保其智能服务满足功能安全、隐私和信息安全要求，使这些创新引擎保持在正轨上。