在研究與開發(fā)醫(yī)療設(shè)備算法的過程中，始終需要具有高端算力的專用PC來探索最先進(jìn)的算法。

并行計(jì)算平臺(tái)和編程模型CUDA的出現(xiàn)，推動(dòng)了NVIDIA GPU在許多醫(yī)療設(shè)備、醫(yī)療器械和模型中的集成，實(shí)現(xiàn)了高性能算法工作負(fù)載的軟件開發(fā)循環(huán)。如今，AI已被應(yīng)用于醫(yī)學(xué)影像工作流程，并且自然而然地?cái)U(kuò)展到了其他使用醫(yī)學(xué)影像的領(lǐng)域，例如具有視頻或圖像采集功能的醫(yī)療設(shè)備等。為了將AI集成到醫(yī)療設(shè)備中，需要投入更多的計(jì)算資源來加快新功能的開發(fā)。

NVIDIA正在推出NVIDIA Clara AGX開發(fā)套件來滿足這一需求，從而推動(dòng)針對(duì)醫(yī)療器械的高級(jí)算法和AI技術(shù)的研究。Clara AGX開發(fā)套件包含：Jetson AGX Xavier、Mellanox Connect X-6 NIC、RTX 6000 GPU和HDMI 2.0輸入。Clara AGX SDK提供必要的OS、驅(qū)動(dòng)程序和存儲(chǔ)庫、容器化運(yùn)行時(shí)，以及AI技術(shù)示例。這一硬件和軟件的組合創(chuàng)建了一個(gè)獨(dú)特的平臺(tái)，通過該平臺(tái)，醫(yī)療設(shè)備制造商、軟件開發(fā)者和醫(yī)學(xué)研究界能夠更輕松地將AI先進(jìn)技術(shù)應(yīng)用于醫(yī)療器械。

用于AI技術(shù)開發(fā)的可擴(kuò)展計(jì)算

Clara AGX開發(fā)套件建立在Jetson AGX Xavier基礎(chǔ)之上，包含一個(gè)基于Jetson產(chǎn)品系列的豐富且多樣化存儲(chǔ)庫和工具的生態(tài)系統(tǒng)。Jetson AGX Xavier模塊將運(yùn)行功率低至10W、算力高達(dá)32 TOPS的AI自主機(jī)器變成現(xiàn)實(shí)。作為全球領(lǐng)先AI計(jì)算平臺(tái)的一部分，該模塊受益于NVIDIA豐富的AI工具和工作流，開發(fā)者可使用它快速訓(xùn)練和部署神經(jīng)網(wǎng)絡(luò)。Jetpack SDK是一款用于構(gòu)建AI應(yīng)用的綜合解決方案，它通過標(biāo)準(zhǔn)Linux操作系統(tǒng)、為主板組件提供支持的BSP以及對(duì)CUDA的支持（并因此帶來了整個(gè)CUDA加速生態(tài)系統(tǒng)），為Clara AGX開發(fā)套件提供支持。此外，Clara AGX SDK包含用于構(gòu)建流數(shù)據(jù)處理流程的Rivermax和DeepStream、支持通過EGX進(jìn)行部署的容器化運(yùn)行時(shí)，以及用于為特定用例建模的參考應(yīng)用。

雖然Jetson平臺(tái)在技術(shù)上非常適合產(chǎn)品化，但新一代算法的開發(fā)需要NVIDIA獨(dú)立GPU提供更多計(jì)算資源。高性能的RTX GPU能夠減少優(yōu)化代碼所需的時(shí)間，并且可以在不影響性能的情況下進(jìn)行算法實(shí)驗(yàn)。

Clara AGX開發(fā)套件中包含NVIDIA RTX 6000 GPU，其峰值性能超過200 INT8 AI TOPS。RTX 6000可以運(yùn)行最復(fù)雜、要求最高的AI應(yīng)用中的多個(gè)并發(fā)推理流程，從而促進(jìn)最新AI模型的研發(fā)。

當(dāng)研發(fā)完成且最終AI模型已準(zhǔn)備就緒時(shí)，開發(fā)者可以優(yōu)化這些模型，并將它們部署到一個(gè)完全可擴(kuò)展的架構(gòu)上。追求低功耗用例的開發(fā)者可以使用Jetson產(chǎn)品系列，該系列產(chǎn)品滿足了小型產(chǎn)品對(duì)功耗和尺寸要求。此外，開發(fā)者也可以在結(jié)合Jetson和RTX GPU的產(chǎn)品系統(tǒng)上，部署高性能用例。NVIDIA正通過一套應(yīng)用軟件提供一個(gè)完整且可擴(kuò)展的產(chǎn)品系列。

適用于高帶寬傳感器的可擴(kuò)展連接

醫(yī)療器械以及許多其他嵌入式系統(tǒng)都需要通過GPU Direct或RDMA流在各類上游傳感器和GPU之間建立高帶寬連接。Clara AGX開發(fā)套件讓客戶能夠通過兩種不同的媒介實(shí)現(xiàn)這類專用連接。

第一種是通過集成NVIDIA Mellanox ConnectX-6 NIC實(shí)現(xiàn)對(duì)100G以太網(wǎng)和10G以太網(wǎng)的支持。該先進(jìn)設(shè)備能夠以全線速將GPU Direct連接到RTX 6000 GDDR DRAM。Clara AGX開發(fā)套件可減輕網(wǎng)絡(luò)堆棧的負(fù)擔(dān)，從而使串流的傳感器數(shù)據(jù)包能夠?qū)崿F(xiàn)最高的吞吐量和性能，同時(shí)最大程度地減少對(duì)CPU利用率的影響。

第二種是用戶可以采用兩個(gè)支持自定義PCIe卡或其它NIC的PCIe Gen4x8插槽。第一個(gè)PCIe端口用于連接NVIDIA Mellanox ConnectX-6 NIC中的集成交換機(jī)。該端口支持將RDMA數(shù)據(jù)直接傳輸?shù)絉TX6000 GDDR DRAM中，其用例包括具有多個(gè)4k60 12G SDI輸入的自定義視頻采集卡。第二個(gè)PCIe端口用于直接連接Jetson AGX Xavier模塊。該端口可以連接外部主機(jī)或通過自定義卡實(shí)現(xiàn)專用輸出。

合作伙伴開發(fā)者計(jì)劃

NVIDIA還為Clara AGX開發(fā)套件推出了合作伙伴開發(fā)者計(jì)劃，包含NVIDIA硬件和協(xié)作網(wǎng)絡(luò)。如欲進(jìn)一步了解如何獲取Clara AGX開發(fā)套件，請(qǐng)點(diǎn)擊鏈接進(jìn)行申請(qǐng)。

如欲了解有關(guān)Clara AGX的更多信息，請(qǐng)觀看Mathias Blake、Juha Tukkinen和Brian Feeley在 NVIDIA GTC 2020秋季站上所做的深入展示《構(gòu)建AI驅(qū)動(dòng)的醫(yī)療器械》。三位專家探討了AI革命將如何為醫(yī)療設(shè)備創(chuàng)造巨大價(jià)值，以及Clara AGX將如何助力這場變革。