大約 10 億臺攝像機(jī)——終極物聯(lián)網(wǎng)（ IoT ）傳感器——已經(jīng)部署在世界各地的城市和空間，以幫助我們生活得更好、更安全。優(yōu)化 AI 支持的視頻分析對于無摩擦零售、優(yōu)化庫存管理、智能城市交通工程、工廠地面光學(xué)檢查、醫(yī)療設(shè)施的患者護(hù)理等至關(guān)重要。

NVIDIA Metropolis 是一個應(yīng)用程序框架、一套開發(fā)工具和合作伙伴生態(tài)系統(tǒng)，它將可視數(shù)據(jù)和人工智能結(jié)合在一起，以提高廣泛行業(yè)的運(yùn)營效率和安全性。

但大規(guī)模人工智能的發(fā)展之路是艱難的。

從定義需求、采購硬件、開發(fā)和微調(diào)軟件、 IT 和安全審查，到在每個站點(diǎn)實(shí)際安裝和更新系統(tǒng)和應(yīng)用程序軟件，這一過程艱巨、耗時且成本高昂。

當(dāng)開發(fā)人員專注于構(gòu)建 AI 應(yīng)用程序時，他們的操作效果最好，并且不需要承擔(dān)在邊緣位置部署 AI 時可能出現(xiàn)的硬件、安全性和可伸縮性問題的支持責(zé)任。

圖 1 。人工智能部署的典型時間表從 POC 到規(guī)?？赡苄枰獢?shù)月的時間。

NVIDIA Fleet 命令解決了這些問題，并使 AI 應(yīng)用程序的部署變得容易。 Fleet Command 是一項交鑰匙云服務(wù)，它允許任何技能級別的管理員通過跨分布式邊緣基礎(chǔ)設(shè)施安全地部署、管理和擴(kuò)展 AI 來管理 AI 生命周期，所有這些都來自一個控制平面。跨邊緣設(shè)備遠(yuǎn)程編排 AI 應(yīng)用程序意味著 Fleet Command 可以為組織節(jié)省數(shù)周的規(guī)劃和手動實(shí)施邊緣基礎(chǔ)設(shè)施的時間。

艦隊指揮問題

最近，我們主持了一次Metropolis開發(fā)者會議，展示如何使用 Fleet Command 在邊緣部署 vision AI 應(yīng)用程序。可以查看網(wǎng)絡(luò)研討會。

數(shù)以百計的開發(fā)人員希望將他們的應(yīng)用程序從 POC 轉(zhuǎn)移到規(guī)模，與會者進(jìn)行了熱烈的討論并參與其中。下面是一些最常見的問題和我們的答案。

艦隊司令部如何幫助加速 AI 應(yīng)用程序的部署？

艦隊司令部是一個交鑰匙解決方案，消除了構(gòu)建和維護(hù)邊緣軟件平臺的復(fù)雜性：

簡化邊緣 AI ： Fleet Command 消除了構(gòu)建、操作和維護(hù)邊緣軟件平臺的復(fù)雜性，為管理員提供了一個“無 IT ”測試和優(yōu)化的解決方案，使他們只需點(diǎn)擊幾下就可以從軟件安裝轉(zhuǎn)移到邊緣部署。

優(yōu)化的部署：任何技能級別的管理員都可以將應(yīng)用程序部署和擴(kuò)展到任意數(shù)量的位置。一鍵式資源調(diào)配將系統(tǒng)轉(zhuǎn)變?yōu)槿斯ぶ悄茉O(shè)備，并消除了熟練 IT 技術(shù)人員前往邊緣站點(diǎn)安裝服務(wù)器的需要，從而加快了實(shí)現(xiàn)人工智能的時間 NSight 。

AI 生命周期管理：通過無線方式更新應(yīng)用程序，輕松擴(kuò)展其他應(yīng)用程序，并監(jiān)控各個應(yīng)用程序之間的 AI 運(yùn)行狀況。彈性軟件平臺自動重啟應(yīng)用程序， MIG 在出現(xiàn)問題時對工作負(fù)載進(jìn)行評估。詳細(xì)的監(jiān)控儀表盤和廣泛的自動化流程使管理 AI 變得簡單。

分層安全：從云到邊緣，領(lǐng)先的安全協(xié)議確保應(yīng)用程序數(shù)據(jù)始終受到保護(hù)，從而減輕了組織構(gòu)建和運(yùn)行這些功能的負(fù)擔(dān)。一個安全的私人注冊中心隔離了知識產(chǎn)權(quán)和傳輸中的加密，并在靜止時保護(hù)了有價值的數(shù)據(jù)。

圖 2 。使用 Fleet 命令，您的 edge Fleet 可以通過一個界面集中管理。

在 Fleet Command 部署應(yīng)用程序需要滿足哪些要求？

艦隊司令部通過舵圖在 Kubernetes 部署容器化應(yīng)用程序。

Fleet Command 可以跟蹤哪些指標(biāo)？是否存在系統(tǒng)指標(biāo)或是否可以從應(yīng)用程序中提取數(shù)據(jù)？

除了系統(tǒng)和應(yīng)用程序日志外， Fleet Command 還提供系統(tǒng)和位置運(yùn)行狀況以及部署狀態(tài)警報。

我是否需要使用 Fleet Command 用戶界面，或者可以使用 API 來完成？

合作伙伴可以利用艦隊司令部 API 集成到其現(xiàn)有解決方案中，為部署 Edge AI （單一整合的 edge 計算平臺）的組織提供支持。

服務(wù)器失去 Internet 連接時會發(fā)生什么情況？艦隊司令部還能運(yùn)作嗎？

是的，部署在 Fleet Command 上的應(yīng)用程序仍然可以在沒有 Internet 連接的情況下運(yùn)行。當(dāng)與網(wǎng)絡(luò)斷開連接時，邊緣服務(wù)器將繼續(xù)運(yùn)行并提供洞察力。唯一失去的功能是更新或控制這些系統(tǒng)的能力，直到在 Fleet Command 和邊緣系統(tǒng)之間重新建立互聯(lián)網(wǎng)連接。

Fleet Command 支持哪些硬件？

Fleet Command 要求在邊緣站點(diǎn)使用 NVIDIA – 認(rèn)證系統(tǒng)。這是所有 NVIDIA – 認(rèn)證系統(tǒng)的綜合列表。但是，建議部署專為邊緣用例設(shè)計的系統(tǒng)。

有關(guān)根據(jù)您的需求配置系統(tǒng)規(guī)范的一般指南 NVIDIA – 認(rèn)證系統(tǒng)配置指南。

我怎樣才能看到艦隊指揮的演示？

觀看這個演示了解使用 Fleet Command 在幾分鐘內(nèi)跨其邊緣基礎(chǔ)設(shè)施部署 AI 有多容易。

通過觀看此按需大都會開發(fā)人員會議，了解更多關(guān)于 Fleet Command 的力量，以及它如何幫助您在邊緣部署、管理和擴(kuò)展 AI ，以數(shù)據(jù)怪物呈現(xiàn)的用例為特色。

關(guān)于作者

Tiffany Yeung 是 NVIDIA Edge 和企業(yè)計算解決方案的產(chǎn)品營銷經(jīng)理。 Tiffany 專注于利用 NVIDIA 邊緣解決方案使醫(yī)院、商店、倉庫、工廠等實(shí)現(xiàn)創(chuàng)新。在 NVIDIA 之前， Tiffany 的背景是創(chuàng)業(yè)，她曾為許多財富 500 強(qiáng)公司提供咨詢。

Troy Estes 是 NVIDIA Edge 和企業(yè)計算解決方案的產(chǎn)品營銷經(jīng)理。在加入 Edge & Enterprise 業(yè)務(wù)部門之前，特洛伊曾在自主汽車業(yè)務(wù)部門和 NVIDIA 電網(wǎng)產(chǎn)品集團(tuán)從事營銷活動和支持產(chǎn)品 GTM 。

審核編輯：郭婷