NVIDIA NeMo Guardrails 包含全新 NVIDIA NIM 微服務(wù)，能夠?yàn)楦餍袠I(yè)構(gòu)建 AI 的企業(yè)提高 AI 的準(zhǔn)確性、安全性和可控性。
?

AI 智能體有望成為能夠完成各種任務(wù)的“知識(shí)機(jī)器人”，提升全球數(shù)十億知識(shí)工作者的生產(chǎn)力。為了開發(fā) AI 智能體，企業(yè)需要解決信任、物理安全、網(wǎng)絡(luò)安全以及合規(guī)性等關(guān)鍵問題。

全新 NVIDIA NIM AI Guardrail 微服務(wù)是 NVIDIA NeMo Guardrails 軟件工具系列的一部分。這些可移植且經(jīng)過優(yōu)化的推理微服務(wù)可幫助企業(yè)提高生成式 AI 應(yīng)用的安全性、精準(zhǔn)性和可擴(kuò)展性。

這些微服務(wù)圍繞 NeMo Guardrails 為核心編排。NeMo Guardrails 是 NVIDIA NeMo 平臺(tái)的一部分，該平臺(tái)用于 AI 的管理、定制和防護(hù)。NeMo Guardrails 可幫助開發(fā)者在大語言模型 (LLM) 應(yīng)用中集成和管理 AI 護(hù)欄。行業(yè)領(lǐng)導(dǎo)企業(yè) Amdocs、Cerence AI 以及勞氏公司 (Lowe’s) 等都在使用 NeMo Guardrails 保護(hù) AI 應(yīng)用的安全。
?
開發(fā)者可以使用 NIM 微服務(wù)構(gòu)建更加安全、可信的 AI 智能體。這些智能體會(huì)參考特定語境準(zhǔn)則做出安全、適當(dāng)?shù)幕卮穑⑶壹訌?qiáng)了對(duì)越獄企圖的抵御力度。它們可被部署在汽車、金融、醫(yī)療、制造、零售等行業(yè)的客戶服務(wù)中，提高客戶的滿意度和信任度。

在這些全新微服務(wù)中，有一項(xiàng)專為審核內(nèi)容安全而構(gòu)建，并使用 Aegis 內(nèi)容安全數(shù)據(jù)集 (Aegis Content Safety Dataset) 進(jìn)行訓(xùn)練，后者是同類中質(zhì)量較高的人工注釋數(shù)據(jù)源之一。該數(shù)據(jù)集由 NVIDIA 整理并擁有，已在 Hugging Face 網(wǎng)站上公開發(fā)布。該數(shù)據(jù)集包含超過 35000 個(gè)經(jīng)過人工標(biāo)記的數(shù)據(jù)樣本，這些樣本針對(duì) AI 安全和繞過系統(tǒng)限制的越獄企圖進(jìn)行標(biāo)記。
?
NVIDIA NeMo Guardrails 使 AI 智能體處于正軌
AI 正在迅速提高各種業(yè)務(wù)流程的生產(chǎn)力。在改變客戶服務(wù)方面，它可使解決客戶問題的速度加快至高 40%。然而，為了擴(kuò)展用于客戶服務(wù)的 AI 和其他 AI 智能體，需要有安全的模型防止有害或不當(dāng)?shù)妮敵鼋Y(jié)果，并確保 AI 應(yīng)用在規(guī)定的參數(shù)范圍內(nèi)運(yùn)行。
?
NVIDIA 為 NeMo Guardrails 引入了三項(xiàng)全新的 NIM 微服務(wù)，可幫助 AI 智能體在大規(guī)模運(yùn)行的同時(shí)保持受控行為：

內(nèi)容安全 NIM 微服務(wù)：防止 AI 生成有偏見或有害的輸出結(jié)果，確?；卮鸱系赖聵?biāo)準(zhǔn)。

話題控制 NIM 微服務(wù)：將對(duì)話聚焦在經(jīng)過審核的話題上，避免離題或不當(dāng)內(nèi)容。

越獄檢測(cè) NIM 微服務(wù)：增加對(duì)越獄企圖的防護(hù)，幫助在對(duì)抗性場(chǎng)景中保持 AI 的完整性。

?
由于“一刀切”的方法無法有效保護(hù)和控制復(fù)雜的代理式 AI 工作流，通過應(yīng)用多個(gè)輕量級(jí)專業(yè)模型作為護(hù)欄，開發(fā)者可以彌補(bǔ)在只采取較為通用的全局策略和保護(hù)措施時(shí)可能出現(xiàn)的漏洞。

小語言模型（例如 NeMo Guardrails 系列中的模型）的延遲較低，即使在資源有限或分布式環(huán)境中也能高效運(yùn)行，因此是擴(kuò)展 AI 應(yīng)用的理想選擇，用于醫(yī)療、汽車、制造等行業(yè)，以及醫(yī)院或倉庫等場(chǎng)所。

行業(yè)領(lǐng)導(dǎo)者與合作伙伴使用 NeMo Guardrails 保障 AI 安全
NeMo Guardrails 現(xiàn)已向開源社區(qū)開放，幫助開發(fā)者通過編排多項(xiàng) AI 軟件策略（稱為 rail）提高 LLM 應(yīng)用的安全性和可控性。它與 NVIDIA NIM 微服務(wù)一同組成了一個(gè)強(qiáng)大的 AI 系統(tǒng)構(gòu)建框架，可在不影響安全和性能的情況下進(jìn)行大規(guī)模部署。
?
全球領(lǐng)先的傳媒企業(yè)軟件與服務(wù)提供商 Amdocs 正在使用 NeMo Guardrails 實(shí)現(xiàn)更加安全、準(zhǔn)確、符合語境的回答，增強(qiáng) AI 驅(qū)動(dòng)的客戶交互。

Amdocs 技術(shù)集團(tuán)總裁兼戰(zhàn)略主管 Anthony Goonetilleke 表示：“像 NeMo Guardrails 這樣的技術(shù)對(duì)于保障生成式 AI 應(yīng)用的安全至關(guān)重要，能夠幫助 AI 安全、道德地運(yùn)行。我們正在通過將 NVIDIA NeMo Guardrails 集成到我們的 amAIz 平臺(tái)，增強(qiáng)該平臺(tái)的‘可信 AI’功能，保障代理式體驗(yàn)的安全性、可靠性和可擴(kuò)展性。這使服務(wù)提供商能夠安全、放心地部署 AI 解決方案，為 AI 的創(chuàng)新和卓越運(yùn)營樹立了新標(biāo)準(zhǔn)。”
?
Cerence AI 是一家專為汽車行業(yè)提供 AI 解決方案的公司。該公司正在使用 NVIDIA NeMo Guardrails 來幫助其車載助手在其 CaLLM 系列大語言和小語言模型的支持下提供符合語境的安全交互。
?
Cerence AI 產(chǎn)品和技術(shù)執(zhí)行副總裁 Nils Schanz 表示：“Cerence AI 依靠 NVIDIA 安全、高性能的解決方案為我們的車載助手技術(shù)提供助力。使用 NeMo Guardrails 可以幫助我們?yōu)槠囍圃焐炭蛻籼峁┛尚诺那榫掣兄鉀Q方案，并作出明智、嚴(yán)謹(jǐn)且無幻覺的回答。此外，NeMo Guardrails 還可以針對(duì)我們汽車制造商客戶的需求定制，幫助我們過濾有害或不友善的請(qǐng)求，防止我們的 CaLLM 系列語言模型向終端用戶提供意外或不當(dāng)?shù)膬?nèi)容?！?br /> ?
領(lǐng)先的家居裝飾零售商勞氏公司 (Lowe’s) 正在利用生成式 AI 來鞏固其店員的專業(yè)知識(shí)。通過提供更全面的產(chǎn)品知識(shí)，這些工具使店員能夠回答客戶的問題，幫助他們找到合適的產(chǎn)品來完成項(xiàng)目，并為零售創(chuàng)新和客戶滿意度樹立新的標(biāo)準(zhǔn)。
?
勞氏公司數(shù)據(jù)、AI 和創(chuàng)新高級(jí)副總裁 Chandhu Nair 表示：“我們一直在尋找方法幫助員工為客戶提供超出預(yù)期的服務(wù)。通過最近部署的 NVIDIA NeMo Guardrails，我們能夠保證 AI 生成回答的安全性與可靠性，將對(duì)話強(qiáng)行限制在相關(guān)和適當(dāng)?shù)膬?nèi)容范圍內(nèi)?！?br /> ?
為進(jìn)一步加速零售業(yè) AI 應(yīng)用開發(fā)和部署中 AI 安全保障措施的采用，NVIDIA 最近在 NRF (National Retail Federation) 展會(huì)上宣布，適用于零售購物助手的 NVIDIA AI Blueprint 整合了 NeMo Guardrails 微服務(wù)，為數(shù)字購物創(chuàng)造更加可靠、可控的客戶交互。
?
咨詢行業(yè)的領(lǐng)導(dǎo)者 Taskus、Tech Mahindra 和 Wipro 也正在將 NeMo Guardrails 集成到其解決方案中，以便為企業(yè)客戶提供更加安全、可靠、可控的生成式 AI 應(yīng)用。


憑借自身的開放性和可擴(kuò)展性，NeMo Guardrails 可集成由領(lǐng)先的 AI 安全模型和防護(hù)提供商組成的強(qiáng)大生態(tài)系統(tǒng)，以及 AI 可觀察性和開發(fā)工具。它支持與 ActiveFence 的 ActiveScore 集成，以防止對(duì)話式 AI 應(yīng)用中出現(xiàn)有害或不當(dāng)?shù)膬?nèi)容，并提供可視化、分析和監(jiān)控功能。

Hive 以 NIM 微服務(wù)的形式提供適用于圖像、視頻和音頻內(nèi)容的 AI 生成內(nèi)容檢測(cè)模型。通過使用 NeMo Guardrails，該公司可輕松地將其模型集成到 AI 應(yīng)用中并進(jìn)行編排。
?
AI 可觀測(cè)性平臺(tái) Fiddler 可輕松與 NeMo Guardrails 集成，增強(qiáng) AI Guardrails的監(jiān)控功能。端到端 AI 開發(fā)者平臺(tái) Weights & Biases 正在現(xiàn)有 NIM 集成組合的基礎(chǔ)上，通過增加與 NeMo Guardrails 微服務(wù)的集成來擴(kuò)展 W&B Weave 的功能，以此提升生產(chǎn)中的 AI 推理能力。
?
NeMo Guardrails 提供用于 AI 安全測(cè)試的開源工具
NVIDIA Garak 是一款由 NVIDIA Research 團(tuán)隊(duì)開發(fā)的用于 LLM 和應(yīng)用漏洞掃描的開源套件。開發(fā)者可以使用它測(cè)試安全保障模型和其他 rail 的使用效果。
?
借助 Garak，開發(fā)者通過評(píng)估數(shù)據(jù)泄露、提示注入、代碼幻覺、越獄場(chǎng)景等問題，發(fā)現(xiàn)使用 LLM 的系統(tǒng)中所存在的漏洞。通過生成包含不當(dāng)或不正確輸出結(jié)果的測(cè)試用例，Garak 可幫助開發(fā)者發(fā)現(xiàn)并解決 AI 模型中的潛在弱點(diǎn)，提高模型的穩(wěn)健性與安全性。

可用性
NVIDIA NeMo Guardrails 微服務(wù)以及用于編排 rail 的 NeMo Guardrails 和 NVIDIA Garak 套件現(xiàn)已向開發(fā)者和企業(yè)開放。開發(fā)者可以按照此教程，開始使用 NeMo Guardrails 為 AI 客服智能體構(gòu)建 AI 護(hù)欄。
?
查閱相關(guān)軟件產(chǎn)品信息說明。
?
?