91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

DOCA SDK及框架的綜述

jf_C6sANWk1 ? 來(lái)源:軟硬件融合 ? 作者:Chaobowx ? 2022-10-10 11:24 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

編者按:

NVIDIA最大的成功是把GPU變成了GPGPU,使之成為了最廣泛的異構(gòu)加速器件;而構(gòu)筑起堅(jiān)固護(hù)城河的的則是龐大的CUDA生態(tài)。 2020年10月,NVIDIA DPU發(fā)布,同步發(fā)布了DOCA開(kāi)發(fā)SDK及框架。是否能夠基于DOCA構(gòu)建DPU的成熟生態(tài),復(fù)制GPU和CUDA的成功,大家拭目以待。本文是DOCA SDK及框架的綜述。

1 DOCA定義

現(xiàn)代企業(yè)數(shù)據(jù)中心是軟件定義、完全可編程的數(shù)據(jù)中心,旨在跨越云、核心和邊緣環(huán)境為高度分布式的應(yīng)用工作負(fù)載提供服務(wù)。軟件定義的數(shù)據(jù)中心可提供類似云的靈活性和敏捷性,但會(huì)消耗許多CPU核資源,降低服務(wù)器和數(shù)據(jù)中心的效率。通過(guò)DPU和DOCA(Data Center Infrastructure on a Chip Architecture),可以實(shí)現(xiàn)軟件定義且硬件加速的基礎(chǔ)設(shè)施,更大限度地提高數(shù)據(jù)中心的性能和靈活性。

4eb7fa72-3743-11ed-ba43-dac502259ad0.png

DPU位于數(shù)據(jù)中心的服務(wù)器節(jié)點(diǎn)內(nèi),DOCA是用于在BlueField DPU上開(kāi)發(fā)應(yīng)用程序的軟件框架。借助DOCA,可以在BlueField DPU,從主機(jī)CPU卸載并加速基礎(chǔ)設(shè)施工作負(fù)載。 開(kāi)發(fā)者基于DOCA開(kāi)發(fā)運(yùn)行在DPU上的各種服務(wù),讓DPU成為與業(yè)務(wù)隔離的、安全的服務(wù)域(或Enclave),用于網(wǎng)絡(luò)、安全、存儲(chǔ)和基礎(chǔ)設(shè)施管理。

DPU可加速所有關(guān)鍵數(shù)據(jù)中心的基礎(chǔ)設(shè)施服務(wù),還可以運(yùn)行控制平面的軟件,如軟件定義網(wǎng)絡(luò)(SDN)的控制器、分布式存儲(chǔ)軟件,或在可編程Arm核上運(yùn)行新一代防火墻代理。

2 NVIDIA Bluefield DPU

BlueField DPU包括:

一個(gè)強(qiáng)大的智能網(wǎng)卡,可支持高速以太網(wǎng)或InfiniBand兩種接口;

一組Arm核以及DRAM;

PCIe交換機(jī)

通過(guò)高速M(fèi)esh網(wǎng)絡(luò)連接在一起。

嵌入式ConnectX智能網(wǎng)卡包含許多加速器(網(wǎng)絡(luò)、云、存儲(chǔ)、加密、流媒體、時(shí)間同步等),BlueField更是增加了面向安全、存儲(chǔ)虛擬化、硬件隔離和遠(yuǎn)程管理的加速器和功能。

3 DOCA的功能組件

4ed20d18-3743-11ed-ba43-dac502259ad0.png

從開(kāi)發(fā)者的角度來(lái)看,DOCA可劃分為兩大領(lǐng)域:

SDK組件,幫助您構(gòu)建在DPU上運(yùn)行或使用DPU的應(yīng)用程序。

DOCA運(yùn)行時(shí)集,包含在DPU上運(yùn)行應(yīng)用程序所需的組件。

DOCA軟件包括:

DOCA SDK提供行業(yè)標(biāo)準(zhǔn)的開(kāi)放式API和框架,其中包括用于網(wǎng)絡(luò)和安全的DPDK和P4,以及用于存儲(chǔ)的SPDK。這些框架通過(guò)集成的NVIDIA加速包簡(jiǎn)化了應(yīng)用卸載開(kāi)發(fā)。

DOCA SDK支持一系列操作系統(tǒng)及其發(fā)行版本,并且包含驅(qū)動(dòng)、庫(kù)、工具、文檔和示例應(yīng)用程序。

基于DOCA的服務(wù)以行業(yè)標(biāo)準(zhǔn)的I/O接口開(kāi)放給計(jì)算節(jié)點(diǎn),從而實(shí)現(xiàn)基礎(chǔ)設(shè)施虛擬化和隔離。

DOCA運(yùn)行時(shí)環(huán)境包括用于在數(shù)據(jù)中心內(nèi)的數(shù)百或數(shù)千個(gè)DPU上進(jìn)行預(yù)置、部署和編排容器化服務(wù)的工具。

BlueField DPU和DOCA框架允許將基礎(chǔ)設(shè)施服務(wù)轉(zhuǎn)移到DPU,從而卸載和加速這些服務(wù)。DOCA支持在應(yīng)用層和基礎(chǔ)架構(gòu)服務(wù)層進(jìn)行開(kāi)發(fā)。SDK包含的關(guān)鍵組件:

行業(yè)標(biāo)準(zhǔn)API:DPDK、SPDK、P4;

網(wǎng)絡(luò)加速SDK:ASAP2 SDN、模擬的VirtIO、P4、5T for 5G技術(shù);

安全加速SDK:inline加密、深度數(shù)據(jù)包檢測(cè);

存儲(chǔ)加速SDK:存儲(chǔ)Emulation和虛擬化、加密和壓縮;

RDMA加速SDK:UCX、RDMA Verbs、GPUDirect;

管理SDK:部署、預(yù)配置、服務(wù)編排;

用戶空間接口和內(nèi)核空間接口。

運(yùn)行時(shí)包含二進(jìn)制庫(kù)、運(yùn)行時(shí)二進(jìn)制文件、編譯工具、安裝工具、基準(zhǔn)測(cè)試程序以及各種DOCA服務(wù)代理。借助這些,您可以使用不同的DPU API和功能,設(shè)置DPU卡、安裝合適的操作系統(tǒng),以及在DPU上運(yùn)行您的軟件。運(yùn)行時(shí)還包括各種管理工具,用于配置和支撐服務(wù)器中和網(wǎng)絡(luò)中的DPU卡,同時(shí)支持編排容器化操作與各種加速服務(wù)。

DOCA 1.0包括了使用DPI的加速負(fù)載均衡器參考應(yīng)用程序,以及使用DPI和regex模型匹配的下一代防火墻代理參考應(yīng)用程序。他們都充分利用了DOCA庫(kù)和DPU上的加速功能的優(yōu)勢(shì)。它們包含源文件,無(wú)需在DPU上進(jìn)行編程。但是,它們可以提供DPU API和庫(kù)的使用示例,從而簡(jiǎn)化應(yīng)用程序的開(kāi)發(fā)和集成。未來(lái)的DOCA版本中可能會(huì)添加更多的參考應(yīng)用程序。 DPU管理工具和其他功能:

SDK管理器。幫助在運(yùn)行DPU的機(jī)器上安裝和更新BlueField SDK。它會(huì)在主機(jī)上安裝 DOCA SDK和運(yùn)行時(shí),并在主機(jī)上安裝用于更新BlueField的操作系統(tǒng)和DOCA的開(kāi)發(fā)容器。

配置工具。旨在簡(jiǎn)化管理和自動(dòng)化部署數(shù)據(jù)中心中的大量DPU卡,可以通過(guò)腳本和管理工具來(lái)實(shí)現(xiàn)。

遙測(cè)。可以在DPU上選擇性地捕獲和共享網(wǎng)絡(luò)和服務(wù)器的關(guān)鍵遙測(cè)數(shù)據(jù),然后分享和收集這些數(shù)據(jù)給日志管理工具、數(shù)據(jù)分析工具或網(wǎng)絡(luò)安全工具等。

以下功能目前可以從BlueField DPU軟件包或Mellanox OFED庫(kù)中獲得,并將被添加到未來(lái)版本的DOCA SDK中:

網(wǎng)絡(luò)流量加密(使用IPSec或TLS);

面向時(shí)間同步數(shù)據(jù)中心的超級(jí)準(zhǔn)確的精度時(shí)間協(xié)議(PTP);

高性能計(jì)算/AI的集合通信卸載;

關(guān)于NVIDIA GPUDirect Storage(GDS)的支持;

等等。

通過(guò)DPU將遠(yuǎn)端網(wǎng)絡(luò)存儲(chǔ)虛擬為本地NVMe SSD或virtio-blk(虛擬IO-塊存儲(chǔ))設(shè)備的BlueField SNAP技術(shù)。DOCA運(yùn)行時(shí)包含的SNAP功能,可支持通過(guò)SPDK庫(kù)訪問(wèn)上層開(kāi)發(fā)者SDK,更多的SNAP功能將會(huì)逐漸添加到DOCA SDK。 4ee1c5aa-3743-11ed-ba43-dac502259ad0.png

BlueField操作系統(tǒng)包含引導(dǎo)加載器、操作系統(tǒng)內(nèi)核、必要的網(wǎng)卡固件、NVIDIA驅(qū)動(dòng)、示例文件系統(tǒng)和工具鏈。NVIDIA BlueField DPU預(yù)裝商業(yè)級(jí)Linux發(fā)行版Ubuntu Server 20.04,并且持續(xù)提供操作系統(tǒng)和安全更新。作為一個(gè)獨(dú)立的軟件包,DOCA可以在多種業(yè)界領(lǐng)先的操作系統(tǒng)上使用,而不與某個(gè)特定的Arm或x86操作系統(tǒng)進(jìn)行捆綁。

4 DOCA的價(jià)值和作用

DOCA的關(guān)鍵作用

DOCA利用行業(yè)標(biāo)準(zhǔn)API,基于NVIDIA DPU快速創(chuàng)建應(yīng)用程序和服務(wù);

DOCA和BlueField DPU相結(jié)合,使得開(kāi)發(fā)者能夠開(kāi)發(fā)具備突破性的網(wǎng)絡(luò)、安全和存儲(chǔ)性能的應(yīng)用程序。

BlueField將基礎(chǔ)設(shè)施服務(wù)域與工作負(fù)載域隔離開(kāi)來(lái),顯著提高了應(yīng)用程序和服務(wù)器的性能、安全性和效率;

同時(shí),DOCA為開(kāi)發(fā)者提供了實(shí)現(xiàn)優(yōu)化、安全、加速數(shù)據(jù)中心所需的各種工具。

DOCA的特點(diǎn):

滿足未來(lái)需求。DOCA可提供多代產(chǎn)品支持,給予開(kāi)發(fā)者充分信心,確保今天開(kāi)發(fā)的應(yīng)用程序能夠在未來(lái)各代的BlueField上持續(xù)運(yùn)行,并持續(xù)獲得性能加持。

卸載、加速、隔離基礎(chǔ)設(shè)施。網(wǎng)絡(luò)、存儲(chǔ)和安全服務(wù)可通過(guò)DPU進(jìn)行卸載、加速和隔離,同時(shí)以線速性能安全地把數(shù)據(jù)傳輸給上層工作負(fù)載。

開(kāi)放式生態(tài)系統(tǒng)。DOCA提供軟件應(yīng)用程序框架,加速生態(tài)系統(tǒng)開(kāi)發(fā)。

4.1 加快基礎(chǔ)設(shè)施服務(wù)走向市場(chǎng)的時(shí)間

DOCA包括了API、驅(qū)動(dòng)、庫(kù)、示例代碼、文檔和預(yù)設(shè)的容器等,可激活BlueField-2 DPU的加速、安全和虛擬化功能。DOCA提供一套統(tǒng)一且可靠的工具,用于開(kāi)發(fā)基于DPU運(yùn)行的關(guān)鍵數(shù)據(jù)中心服務(wù),以處理多種類型的數(shù)據(jù)處理。其中包括:

定向網(wǎng)絡(luò)流量;

存儲(chǔ)的加速、虛擬化和壓縮;

數(shù)據(jù)加密和解密;

安全威脅掃描;

與遠(yuǎn)程管理工具的集成;

在Arm核上運(yùn)行控制平面應(yīng)用。

您可以對(duì)這些卸載和加速器進(jìn)行編程,實(shí)現(xiàn)單獨(dú)或一起使用,并可與基于GPU的NVIDIA AI平臺(tái)進(jìn)行集成。 DOCA助力應(yīng)用程序開(kāi)發(fā)者、設(shè)備供應(yīng)商、研究人員和NVIDIA軟件合作伙伴通過(guò)SDK對(duì)所有這些DPU功能進(jìn)行編程。許多功能的接口在底層的API和上層編程語(yǔ)言中均會(huì)提供。

這些基于DPU運(yùn)行的服務(wù)不僅僅是軟件定義、硬件加速,而且支持AI、易于編程。 未來(lái)幾代BlueField DPU將借助新的增強(qiáng)型加速器提供更強(qiáng)的計(jì)算力。DOCA可通過(guò)擴(kuò)展API的方式來(lái)支持新的功能,確保了與DPU的前向兼容。NVIDIA致力于通過(guò)架構(gòu)流程技術(shù)和軟件創(chuàng)新來(lái)提升性能。我們持續(xù)提升云、核心和邊緣環(huán)境以及應(yīng)用工作負(fù)載的性能和功能。

4.2 簡(jiǎn)化BlueField DPU上的服務(wù)創(chuàng)建流程

4.2.1 網(wǎng)絡(luò)

DPU可加速SDN和NFV:開(kāi)放虛擬交換(OVS)、Overlay網(wǎng)絡(luò)(例如VXLAN)、網(wǎng)絡(luò)地址轉(zhuǎn)換(NAT)、自動(dòng)負(fù)載平衡、細(xì)粒度流量管理和內(nèi)容分發(fā)網(wǎng)絡(luò)。 DOCA支持通過(guò)標(biāo)準(zhǔn)DPDK API將服務(wù)應(yīng)用和DPU加速引擎關(guān)聯(lián)起來(lái),例如rte_flow庫(kù)可以支持基于流的不同操作,包括Overlay封包、包頭重寫(xiě)、Hairpin,以及對(duì)虛擬網(wǎng)絡(luò)功能的測(cè)量。

為提升性能和主機(jī)CPU效率,DOCA還包含了原生OVS-kernel和OVS-DPDK應(yīng)用程序,通過(guò)BlueField DPU的硬件加速交換和數(shù)據(jù)包處理(ASAP2)技術(shù)提供無(wú)縫加速。

DPU硬件對(duì)于主機(jī)網(wǎng)絡(luò)的加速,由DOCA編程平臺(tái)上運(yùn)行的OVS應(yīng)用來(lái)定義,數(shù)據(jù)中心SDN控制器來(lái)編排所有網(wǎng)絡(luò),并通過(guò)DPU的帶外管理端口進(jìn)行連接。 P4是另一種語(yǔ)言,可以對(duì)BlueField DPU中靈活、可編程的數(shù)據(jù)路徑加速器進(jìn)行編程。

DOCA 支持P4語(yǔ)言,可支持未來(lái)基于P4開(kāi)發(fā)的VNF業(yè)務(wù)。這個(gè)功能被集成到了已經(jīng)擁有豐富的VNF產(chǎn)品生態(tài)系統(tǒng)的其它API中。此架構(gòu)允許同時(shí)執(zhí)行面向內(nèi)核、RoCE、DPDK、SPDK、P4 和P4.runtime接口編寫(xiě)的程序,這些可無(wú)縫共存并充分利用DPU數(shù)據(jù)路徑加速。

4.2.2 存儲(chǔ)

對(duì)于存儲(chǔ),DPU支持加速軟件定義的彈性存儲(chǔ)、NVMe over Fabrics (NVMe-oF)、RoCE、靜態(tài)數(shù)據(jù)加密、數(shù)據(jù)刪除、分布式糾錯(cuò)和數(shù)據(jù)壓縮。BlueField DPU NVMe SNAP技術(shù)可提供彈性塊存儲(chǔ)功能,并向主機(jī)提供遠(yuǎn)程塊存儲(chǔ),如同它是本地NVMe塊存儲(chǔ)或VirtIO-blk塊設(shè)備一樣具有低延遲、高吞吐量和高IOPS等特性。

DOCA完全支持SPDK開(kāi)源框架,可助力您創(chuàng)建自己的存儲(chǔ)解決方案。通過(guò)模擬對(duì)PCIe NVMe磁盤(pán)的的訪問(wèn),利用BlueField DPU的多項(xiàng)加速功能來(lái)實(shí)現(xiàn)各種自定義的邏輯,主機(jī)應(yīng)用可以透明地管理模擬出來(lái)的NVMe存儲(chǔ)。其中包括加密、ECC分布式糾錯(cuò)、壓縮、重復(fù)數(shù)據(jù)刪除和惡意軟件掃描。如果您要通過(guò)DOCA進(jìn)行編程,現(xiàn)在無(wú)需對(duì)個(gè)別引擎進(jìn)行顯式編程,即可輕松調(diào)用用于數(shù)據(jù)存儲(chǔ)的功能。

4.2.3 安全性

DPU還可以卸載、加速和隔離所有關(guān)鍵數(shù)據(jù)中心安全服務(wù)。其中包括支持新一代防火墻、微分段、使用透明IPSec和TLS進(jìn)行動(dòng)態(tài)數(shù)據(jù)在線加密以及入侵保護(hù)。DPU擁有一組專用的安全引擎,包含了構(gòu)建安全解決方案的所有模塊。 DOCA包含一組用于開(kāi)發(fā)安全應(yīng)用程序的標(biāo)準(zhǔn)化API。

所有安全服務(wù)均始于數(shù)據(jù)包采集、解密、連接狀態(tài)的有狀態(tài)跟蹤,一直到7層深度數(shù)據(jù)包檢查。這樣會(huì)將應(yīng)用程序流量分類為受信任或惡意。此外,它最終還會(huì)將定義的安全策略轉(zhuǎn)換為一系列操作,例如數(shù)據(jù)包允許、丟棄、重寫(xiě)或重定向。編程通過(guò)標(biāo)準(zhǔn)DPDK API完成,如下所示:

rte_security,用于加密和解密

rte_sft庫(kù),用于連接感知

rte_regex庫(kù),用于正則表達(dá)式模式匹配

rte_dpi庫(kù),用于對(duì)所有流水線加速函數(shù)進(jìn)行深度包檢查

DOCA還支持基于IPSec、TLS和存儲(chǔ)AES-XTS的原生內(nèi)核加密,由DPU實(shí)現(xiàn)在線加速,可以輕松用于基于OpenSSL或OVS-IPSec的應(yīng)用。這支持DPU在不通知主機(jī)的情況下透明地對(duì)所有流量進(jìn)行加密和解密。其中包括DPU在安全Enclave內(nèi)執(zhí)行密鑰管理。

通過(guò)RDMA庫(kù)對(duì)主機(jī)進(jìn)行快速內(nèi)存訪問(wèn),DOCA可讓您創(chuàng)建嚴(yán)格的主機(jī)自檢方案。借助自動(dòng)惡意軟件掃描,您可以進(jìn)一步了解從DPU到主機(jī)的一舉一動(dòng)。如果發(fā)現(xiàn)惡意活動(dòng),您可以通過(guò)對(duì)DPU的硬件加速引擎的編程,達(dá)到以線速來(lái)執(zhí)行策略。

4.2.4 基礎(chǔ)設(shè)施管理

傳統(tǒng)管理會(huì)在每臺(tái)服務(wù)器上運(yùn)行代理。但是,運(yùn)行這些代理會(huì)消耗本可用于業(yè)務(wù)應(yīng)用的CPU周期。代理通常無(wú)法監(jiān)控服務(wù)器上VM之間以及容器之間的網(wǎng)絡(luò)流量。如果代理執(zhí)行數(shù)據(jù)包過(guò)濾或流量遙測(cè)等功能,則會(huì)消耗更多CPU周期。如果服務(wù)器發(fā)生嚴(yán)重故障,則基于VM 或容器的管理代理不太可能報(bào)告狀態(tài)或重啟服務(wù)器。

DOCA允許業(yè)務(wù)隔離的、基于DPU的代理執(zhí)行帶內(nèi)或帶外管理,而不會(huì)給服務(wù)器CPU增加負(fù)擔(dān)。如果服務(wù)器需要重置,或者甚至租戶或業(yè)務(wù)應(yīng)用需要一臺(tái)無(wú)代理的裸金屬服務(wù)器,通過(guò)DOCA編程的DPU仍可發(fā)送遙測(cè)數(shù)據(jù)、執(zhí)行遠(yuǎn)程重置或允許安全啟動(dòng)服務(wù)器,這些操作均無(wú)需在服務(wù)器CPU上運(yùn)行代理。

4.3 使用DOCA的益處

BlueField的許多功能和加速器均可通過(guò)特定API、開(kāi)源SDK或現(xiàn)有驅(qū)動(dòng)進(jìn)行訪問(wèn),使用DOCA的主要益處是簡(jiǎn)化使用DPU的基礎(chǔ)設(shè)施應(yīng)用程序和功能的開(kāi)發(fā)和部署流程。這樣可以加快應(yīng)用和其它BlueField的功能進(jìn)入市場(chǎng)的速度:

統(tǒng)一訪問(wèn)所有DPU功能,不必學(xué)習(xí)和使用多種不同的工具。

在DPU的底層API上提供一個(gè)抽象層給上層的庫(kù),可以更快速、更輕松地進(jìn)行開(kāi)發(fā),實(shí)現(xiàn)和上層業(yè)務(wù)的集成;也可以直接和底層接口交互,從而達(dá)到更精細(xì)的控制。

向前/向后兼容性。使用DOCA進(jìn)行開(kāi)發(fā)意味著應(yīng)用可以在未來(lái)版本的BlueField DPU上無(wú)縫運(yùn)行,且得到了更高的性能和擴(kuò)展性。

基于容器化服務(wù)的DPU調(diào)配和部署。DOCA包含用于簡(jiǎn)化DPU設(shè)置、配置和服務(wù)編排的工具。

5 BlueField DPU和DOCA密切協(xié)作

通過(guò)BlueField DPU和DOCA,可以整合通常無(wú)法一起部署的數(shù)據(jù)中心基礎(chǔ)設(shè)施服務(wù)。例如,由CPU或獨(dú)立Look-aside加密卡對(duì)動(dòng)態(tài)數(shù)據(jù)進(jìn)行加密時(shí),無(wú)法和RoCE、壓縮、哈?;?Overlay網(wǎng)絡(luò)一起工作。事實(shí)上,執(zhí)行此類加密會(huì)禁用以上操作及許多其它網(wǎng)絡(luò)卸載功能。

這是因?yàn)?,如果先?duì)數(shù)據(jù)進(jìn)行加密的話,意味著網(wǎng)絡(luò)設(shè)備不再能識(shí)別數(shù)據(jù)包的內(nèi)容,進(jìn)而無(wú)法執(zhí)行巧妙的數(shù)據(jù)包重路由、過(guò)濾、擁塞管理等操作。但是,使用BlueField DPU和DOCA, 您可以通過(guò)編程將RoCE、VXLAN、哈希計(jì)算、壓縮,以及許多其它卸載功能與加密功能組合在一起,以及它們之間互相組合。

DOCA將所有功能合并到一個(gè)SDK,使用基于通用開(kāi)放API的加速庫(kù)來(lái)即刻釋放DPU的力量。您還可以使用DOCA,透明地將關(guān)鍵控制平面應(yīng)用或代理從X86域移植到DPU的Arm 核,從而提高服務(wù)器性能、效率,并實(shí)現(xiàn)工作負(fù)載和安全的隔離。

6 對(duì)數(shù)據(jù)處理加速和AI進(jìn)行編程

重要的是,DOCA更進(jìn)一步地支持先進(jìn)的GPU加速的AI工作負(fù)載,被完全整合到了大型NVIDIA NGC加速計(jì)算軟件平臺(tái),成為了其中的一個(gè)測(cè)試項(xiàng)。 對(duì)于傳統(tǒng)的企業(yè)應(yīng)用,DOCA可加速包含BlueField DPU的系統(tǒng)中的數(shù)據(jù)中心基礎(chǔ)設(shè)施服務(wù)。

但是,對(duì)于包含DPU和GPU的系統(tǒng),加速AI和數(shù)據(jù)分析工作負(fù)載具有巨大優(yōu)勢(shì)。DOCA 已集成到NGC認(rèn)證計(jì)劃。它可以充分利用大量的開(kāi)發(fā)、集成和測(cè)試資源,支持NVIDIA的全部AI應(yīng)用程序框架(NVIDIA Riva、NVIDIA Merlin、NVIDIA Metropolis、NVIDIA Clara、NVIDIA Aerial等)。

DOCA與NGC平臺(tái)集成,還釋放了各類第三方軟件基礎(chǔ)設(shè)施與應(yīng)用的強(qiáng)大功能。 可以將DOCA與CUDA結(jié)合使用,通過(guò)GPU加速計(jì)算并通過(guò)DPU加速數(shù)據(jù)中心服務(wù)。還可以使用DOCA啟用GPUDirect,加速整個(gè)網(wǎng)絡(luò)中GPU之間的通信。

7 DOCA編程選項(xiàng)

當(dāng)對(duì)DPU進(jìn)行編程時(shí),可以直接訪問(wèn)驅(qū)動(dòng)。這通常需要底層編程和詳細(xì)的驅(qū)動(dòng)知識(shí)。在大多數(shù)情況下,對(duì)DOCA庫(kù)進(jìn)行編程會(huì)更加輕松,這些庫(kù)為驅(qū)動(dòng)提供了上層的抽象層。它的優(yōu)勢(shì)就是已經(jīng)針對(duì)每個(gè)用例進(jìn)行了調(diào)優(yōu),可獲得更出色的加速性能。

參考應(yīng)用提供了實(shí)際工作代碼以及DOCA庫(kù)的使用示例。在某些情況下,可以使用這些參考應(yīng)用作為基礎(chǔ),然后通過(guò)修改它們來(lái)滿足運(yùn)行在DPU上的不同應(yīng)用和方案。 例如如果想構(gòu)建一個(gè)可加速的負(fù)載均衡器,或者集成一個(gè)分布式防火墻的代理到DPU,可以選擇DOCA中關(guān)于深度數(shù)據(jù)包檢測(cè)(DPI)庫(kù)的相關(guān)參考應(yīng)用。

這些庫(kù)又運(yùn)行在DPDK庫(kù)上,利用DPU內(nèi)的有狀態(tài)連接跟蹤和正則表達(dá)式(regex)匹配引擎進(jìn)行加速。

加速負(fù)載均衡器 NGFW下一代防火墻代理 彈性存儲(chǔ)
DOCA參考應(yīng)用 負(fù)載均衡器 防火墻代理 <2021年6月推出>
DOCA庫(kù) DOCA Flow和DPI DOCA Flow和DPI SPDK
底層API/Lib FTE_FLOW、DPDK SFT、DPDK REGEX、DPDK RTE_FLOW、DPDK RegEx SPDK、BlueField SNAP
DPU硬件功能 eSwitch、連接跟蹤、RegEx eSwitch、連接跟蹤、RegEx RDMA、BlueField SNAP、PCIe交換機(jī)


表1 三個(gè)例子來(lái)解釋DOCA是如何運(yùn)行在底層API/Lib和DPU上,以及如何來(lái)訪問(wèn)底層API/Lib和DPU件功能的

8 DOCA 1.1更新

DOCA 1.1版本建立在DOCA 1.0的強(qiáng)勁勢(shì)頭之上,并包含以下更新:

DOCA FLOW-LIB,用于網(wǎng)關(guān)性能的加速,以實(shí)現(xiàn)不同網(wǎng)絡(luò)間互操作性;

DOCA FLOW示例應(yīng)用,用于URL和DNS過(guò)濾與轉(zhuǎn)發(fā)功能;

加速有狀態(tài)流表(SFT),用于連接追蹤功能;

加速正則表達(dá)式(RegEx),用于與DPI Lib進(jìn)行模式匹配;

引入x86平臺(tái)上的DOCA Runtime,用于加速在主機(jī)x86處理器上運(yùn)行的應(yīng)用,不必所有的業(yè)務(wù)都卸載到DPU。




審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 控制器
    +關(guān)注

    關(guān)注

    114

    文章

    17791

    瀏覽量

    193143
  • DRAM芯片
    +關(guān)注

    關(guān)注

    1

    文章

    89

    瀏覽量

    18853
  • DPU
    DPU
    +關(guān)注

    關(guān)注

    0

    文章

    414

    瀏覽量

    26968
  • sdn
    sdn
    +關(guān)注

    關(guān)注

    3

    文章

    257

    瀏覽量

    46705

原文標(biāo)題:DOCA綜合介紹:讓NVIDIA DPU更加強(qiáng)大

文章出處:【微信號(hào):阿寶1990,微信公眾號(hào):阿寶1990】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    Danalto Cardina框架成功集成Qorvo UWB SoC及SDK

    定位智能軟件領(lǐng)域的先驅(qū)企業(yè)Danalto近日宣布,其Cardinal云定位引擎(CLE)已成功集成Qorvo最新推出的超寬帶(UWB)系統(tǒng)級(jí)芯片(SoC)及其面向工業(yè)與企業(yè)應(yīng)用的軟件開(kāi)發(fā)套件(SDK)。
    的頭像 發(fā)表于 03-03 09:44 ?169次閱讀

    LuatOS框架的使用(上)

    在資源受限的物聯(lián)網(wǎng)終端設(shè)備中,如何實(shí)現(xiàn)快速開(kāi)發(fā)與穩(wěn)定運(yùn)行是關(guān)鍵挑戰(zhàn)。LuatOS框架通過(guò)將Lua語(yǔ)言與底層硬件抽象層深度融合,提供了一套簡(jiǎn)潔高效的開(kāi)發(fā)范式。本文將圍繞LuatOS框架的使用展開(kāi),從
    的頭像 發(fā)表于 01-27 19:38 ?157次閱讀
    LuatOS<b class='flag-5'>框架</b>的使用(上)

    NVIDIA開(kāi)源Audio2Face模型及SDK

    NVIDIA 現(xiàn)已開(kāi)源 Audio2Face 模型與 SDK,讓所有游戲和 3D 應(yīng)用開(kāi)發(fā)者都可以構(gòu)建并部署帶有先進(jìn)動(dòng)畫(huà)的高精度角色。NVIDIA 開(kāi)源 Audio2Face 的訓(xùn)練框架,任何人都可以針對(duì)特定用例對(duì)現(xiàn)有模型進(jìn)行微調(diào)與定制。
    的頭像 發(fā)表于 10-21 11:11 ?824次閱讀
    NVIDIA開(kāi)源Audio2Face模型及<b class='flag-5'>SDK</b>

    SDK音頻替換失敗記錄過(guò)程

    在安信可離線語(yǔ)音模組 VC-01、VC-02 系列教程 【中級(jí)入門(mén)篇】中根據(jù)設(shè)置的不同回復(fù)詞和命令字進(jìn)行了固件生成。我出教程的時(shí)候在考慮有沒(méi)有什么辦法來(lái)替換到SDK中的音頻,在我嘗試了各種辦法后發(fā)現(xiàn)很難辦到 (建議直接使用云平臺(tái)生成。 不要在SDK里手動(dòng)添加, 容易匹配不
    的頭像 發(fā)表于 09-25 15:50 ?2031次閱讀
    <b class='flag-5'>SDK</b>音頻替換失敗記錄過(guò)程

    nRF Connect SDK Basic

    用戶在使用 nRF connect SDK 的時(shí)候經(jīng)常會(huì)操作的外設(shè)有GPIO,I2C,SPI,UART。我們就以 nRF connect SDK 2.7.0 中的例程代碼
    的頭像 發(fā)表于 08-20 10:41 ?820次閱讀
    nRF Connect <b class='flag-5'>SDK</b> Basic

    Nordic nRF5 SDK和softdevice介紹

    SDK和Softdevice的區(qū)別是什么?怎么選擇SDK和softdevice版本?芯片,SDK和softdevice有沒(méi)有版本兼容問(wèn)題?怎么理解SDK目錄結(jié)構(gòu)?
    的頭像 發(fā)表于 08-20 09:54 ?3086次閱讀
    Nordic nRF5 <b class='flag-5'>SDK</b>和softdevice介紹

    NVIDIA Jetson + Isaac SDK 在人形機(jī)器人領(lǐng)域的方案詳解

    NVIDIA Jetson + Isaac SDK 在人形機(jī)器人領(lǐng)域的 方案詳解 ,涵蓋芯片型號(hào)、軟件平臺(tái)、開(kāi)發(fā)工具鏈、應(yīng)用場(chǎng)景與典型客戶等。 一、方案概述:Jetson + Isaac SDK
    的頭像 發(fā)表于 07-30 16:05 ?3616次閱讀

    NVIDIA DOCA 3.0版本的亮點(diǎn)解析

    NVIDIA DOCA 框架已發(fā)展成為新一代 AI 基礎(chǔ)設(shè)施的重要組成部分。從初始版本到備受期待的 NVIDIA DOCA 3.0 發(fā)布,每個(gè)版本都擴(kuò)展了 NVIDIA BlueField DPU 和 ConnectX Supe
    的頭像 發(fā)表于 07-04 14:27 ?1237次閱讀
    NVIDIA <b class='flag-5'>DOCA</b> 3.0版本的亮點(diǎn)解析

    如何調(diào)試nRF5 SDK

    本文將講述Nordic nRF5 SDK的主要調(diào)試手段,以幫助大家快速定位問(wèn)題,并解決問(wèn)題。一般來(lái)說(shuō),你可以通過(guò)打log方式,IDE的debug模式,SDK自帶的app_error_check函數(shù)
    的頭像 發(fā)表于 06-24 08:59 ?1006次閱讀
    如何調(diào)試nRF5 <b class='flag-5'>SDK</b>

    STM32 MC SDK5.0培訓(xùn)

    ST培訓(xùn)pptSTM32_PMSM_MC_SDK5.0_Training_CHN
    發(fā)表于 06-06 16:58 ?2次下載

    ArkUI-X跨平臺(tái)框架接入指南

    ArkUI跨平臺(tái)框架(ArkUI-X)進(jìn)一步將ArkUI開(kāi)發(fā)框架擴(kuò)展到了多個(gè)OS平臺(tái):目前支持OpenHarmony、Android、 iOS,后續(xù)會(huì)逐步增加更多平臺(tái)支持。開(kāi)發(fā)者基于一套主代碼
    發(fā)表于 05-18 18:21

    NVIDIA將為每家AI工廠提供網(wǎng)絡(luò)安全

    NVIDIA DOCA Argus 框架可檢測(cè) AI 工作負(fù)載中的威脅并對(duì)之做出響應(yīng),同時(shí)與企業(yè)安全系統(tǒng)無(wú)縫集成,從而提供實(shí)時(shí)洞察。
    的頭像 發(fā)表于 05-07 15:11 ?975次閱讀
    NVIDIA將為每家AI工廠提供網(wǎng)絡(luò)安全

    永磁同步電機(jī)參數(shù)辨識(shí)研究綜述

    參數(shù)辨識(shí)的技術(shù)成果,再對(duì) PMSM 辨識(shí)方法進(jìn)行歸納和比較,最后,揭示 PMSM 參數(shù)辨識(shí)過(guò)程中亟需關(guān)注的研究問(wèn)題并 展望其未來(lái)的發(fā)展方向,旨在實(shí)現(xiàn) PMSM 系統(tǒng)的高效可靠運(yùn)行。純分享帖,點(diǎn)擊附件查看全文*附件:永磁同步電機(jī)參數(shù)辨識(shí)研究綜述.pdf
    發(fā)表于 03-26 14:13

    無(wú)橋PFC變換器綜述

    拓?fù)涞陌l(fā)展歷程進(jìn)行了全面綜述,并將無(wú)橋 PFC 變換器拓?fù)浜铣煞桨阜譃槿箢?,分別進(jìn)行了詳細(xì)介紹。最后,給出了無(wú)橋變換器拓?fù)涞陌l(fā)展方向。 關(guān)鍵詞:無(wú)橋 PFC 變換器;雙極性增益;Boost 變換器
    發(fā)表于 03-13 13:50