借助Cloud Ai和Edge AI，該架構(gòu)可以按其使用目的發(fā)揮作用。設(shè)計新的智能服務(wù)的人員必須知道如何充分利用兩種技術(shù)，既可以改善服務(wù)的固有性能，又可以確保創(chuàng)新的軟件解決方案具有越來越好的用戶體驗。

當(dāng)我們談?wù)?a href="http://m.makelele.cn/v/tag/150/" target="_blank">人工智能時，本質(zhì)上是在談?wù)撘环N方法，如果以有意識的方式將其應(yīng)用于公司數(shù)據(jù)（數(shù)字，圖像，聲音，文本），則可以肯定地加快流程，使其自動化，直接影響收入，成本和風(fēng)險。商業(yè)。此外，人工智能和機(jī)器學(xué)習(xí)的認(rèn)知工具日益民主化甚至最小的公司也可以踏上這一激動人心的旅程。今天，我們比以往任何時候都可以依靠可以整合傳統(tǒng)業(yè)務(wù)平臺并使其朝著更高績效水平發(fā)展的具體硬件和軟件工具，引入預(yù)測技術(shù)統(tǒng)計數(shù)據(jù)是除常規(guī)描述性統(tǒng)計數(shù)據(jù)之外的日常工具，預(yù)測并不意味著猜測。這意味著相對于對事件的觀察，應(yīng)使用合理且數(shù)學(xué)上使事件發(fā)生或基準(zhǔn)發(fā)生概率估計之間的誤差最小化的方法。如果誤差很小，那么這意味著您將能夠以很高的精度預(yù)測下一個，因為我的設(shè)備將給我，或者圖像或聲音所屬的類別，或我很可能在本文中寫的字眼。這是AI的“魔力”。除了執(zhí)行這些操作外，計算機(jī)還需要進(jìn)行大量復(fù)雜的計算，因此需要大量的硬件資源，尤其是如果這些計算是在我們的筆記本電腦或臺式機(jī)上進(jìn)行的。實際上，當(dāng)我們談?wù)撊斯ぶ悄軙r，實際上是在談?wù)摼仃囉嬎?，即?shù)學(xué)運(yùn)算，加法，乘法，數(shù)值矩陣的轉(zhuǎn)置。普通的CPU，盡管是最新一代的，但其計算能力始終受其固有的計算能力以及CPU必須同時管理多個進(jìn)程（必須使整個機(jī)器正常工作）的限制。它不能太飽和。在標(biāo)準(zhǔn)架構(gòu)中也無法并行處理許多CPU。顯然，這成為一個限制。然后是云計算技術(shù)。

GPU的重要性

為了完成這項重要任務(wù)，提供了GPU（即圖形處理單元）：它們是處理器（如NVIDIA制造的處理器），旨在管理視頻游戲中的典型復(fù)雜處理（最終，它們始終是用于確定游戲機(jī)位置的矩陣計算）。 3D空間中多邊形的點和面）。通過擴(kuò)展，如果GPU可以進(jìn)行3D計算，則它可以輕松地用于涉及連續(xù)處理數(shù)字?jǐn)?shù)據(jù)的任何其他任務(wù)。

此外，還應(yīng)當(dāng)指出的是，作為陳述Nvidia首席執(zhí)行官黃仁勛（Jensen Huang）認(rèn)為，圖形處理器的計算能力增長比摩爾定律規(guī)定的增長幅度更大。實際上，這項法律以1965年宣布英特爾聯(lián)合創(chuàng)始人戈登·摩爾（Gordon Moore）的名字命名，它指出CPU芯片的計算能力每兩年翻一番。另一方面，黃仁勛強(qiáng)調(diào)了當(dāng)今摩爾定律如何被每年僅幾個百分點的CPU功率增長所否定，而GPU的增長卻遠(yuǎn)不止于此。實際上，在五年的時間里，GPU的能力增長了25倍以上，而按照摩爾定律，CPU的增長應(yīng)該只有10倍。

此外，可以并行化多個CPU，從而確保為我們的AI或3D工程保證正確的計算能力。

該序言是必要的，以了解擁有足夠的硬件設(shè)備不僅涉及巨額投資，而且還需要占用機(jī)器24/7來收回投資成本。并非所有公司都有能力和技能來擁有專用于這些目的的服務(wù)器場。

此外，必須說AI在兩個不同的時刻占據(jù)了機(jī)器：訓(xùn)練（即我們教機(jī)器執(zhí)行特定任務(wù)的那一刻）和推理的時刻，即當(dāng)機(jī)器使用預(yù)測模型以預(yù)測未來數(shù)據(jù)。實際上，第一階段的培訓(xùn)會大量消耗機(jī)器的資源，進(jìn)行有時甚至長達(dá)數(shù)天的計算，然后返回一個統(tǒng)計模型，該模型代表對我們要處理的機(jī)器的任務(wù)的數(shù)學(xué)解釋。隨后，此模型用于所謂的推理，即用于執(zhí)行與訓(xùn)練相同但針對算法從未見過的數(shù)據(jù)的新任務(wù)的實際預(yù)測活動。例如，

該預(yù)測階段對于機(jī)器而言不那么繁重，但是在任何情況下它都將更頻繁地執(zhí)行，因此就時間而言將占用大量機(jī)器。

云計算

正是由于以下原因，云才為公司提供了幫助：減輕了對機(jī)器的多年投資的一部分，通過將所有處理負(fù)載轉(zhuǎn)移到遠(yuǎn)程機(jī)器來優(yōu)化硬件結(jié)構(gòu)的TCO總擁有成本。這些機(jī)器可以根據(jù)需要進(jìn)行適當(dāng)激活或停用，因此需要付費(fèi)使用，而不是為設(shè)備付費(fèi)。然后，公司產(chǎn)生的使用成本也包括一系列服務(wù)，其中包括一些必不可少的服務(wù)，例如網(wǎng)絡(luò)安全，災(zāi)難恢復(fù)，符合GDPR等。其他可選模型，例如按需機(jī)器學(xué)習(xí)模型已經(jīng)可用并準(zhǔn)備用于一般用途。

對于供應(yīng)商和客戶而言，云計算絕對是一個巨大的機(jī)會。以亞馬遜為例，其收入的50％以上來自AWS平臺。通過諸如AWS或Microsoft的Azure或Google Cloud之類的服務(wù)，公司可以將其軟件產(chǎn)品轉(zhuǎn)換為真正的平臺即服務(wù)（PaaS /平臺即服務(wù)），公司為此需要支付經(jīng)常性費(fèi)用。這樣做的好處是，即使在初步設(shè)計階段并沒有立即意識到這些需求，也可以遠(yuǎn)程執(zhí)行甚至復(fù)雜的功能，也可以根據(jù)您的需求擴(kuò)展機(jī)器的配置。通過單擊的簡單性，添加了視頻卡，增加了Ram，并在新計算機(jī)上安裝了節(jié)點。如果您需要支持更大的請求負(fù)載，則可以大大減少服務(wù)設(shè)置或升級時間。

此外，一些提供商在其云服務(wù)中還提供特殊卡TPU（張量處理單元），這是專門設(shè)計用于處理數(shù)據(jù)多維矩陣（張量事實）的處理器，這些數(shù)據(jù)多維矩陣是AI的更復(fù)雜算法的典型特征。這樣一來，您就可以在云中執(zhí)行非常復(fù)雜的計算，而所需時間僅為本地計算機(jī)可以執(zhí)行的時間的一小部分。

代替看云的局限性，必須說，管理往返于遠(yuǎn)程服務(wù)器的數(shù)據(jù)需要大量使用網(wǎng)絡(luò)帶寬，以及與API（應(yīng)用程序接口）微服務(wù)的連續(xù)客戶端/服務(wù)器通信。這是因為推理活動實際上已轉(zhuǎn)換為遠(yuǎn)程設(shè)備。

因此，根據(jù)我們將要創(chuàng)建的服務(wù)類型，服務(wù)器將或多或少地加載操作。例如，對象（例如面部）的連續(xù)識別將需要結(jié)構(gòu)化的后端，以便支持對將在流傳輸中發(fā)送的幀進(jìn)行分段的需求。

Edge AI的作用

為了優(yōu)化其中一些活動，存在Edge AI，即可以在用戶附近使用設(shè)備以在現(xiàn)場執(zhí)行相同的推理操作而無需將信息傳輸?shù)骄W(wǎng)絡(luò)的可能性。

簡而言之，Edge Ai意味著為電子設(shè)備配備具有AI的自身智能，并可能還為其提供與網(wǎng)絡(luò)以及設(shè)備之間的連接性。Edge AI有什么好處？

優(yōu)點很多，僅考慮此體系結(jié)構(gòu)方法可以在延遲方面為服務(wù)的有效性帶來巨大的效用。例如。在物聯(lián)網(wǎng)設(shè)備（相機(jī)/傳感器等）上，可以使用AI專用芯片（例如Movidius或OpenVino等）增強(qiáng)的面部識別或異常預(yù)測更加有效。

這也降低了隱私風(fēng)險。如果數(shù)據(jù)在網(wǎng)絡(luò)上傳輸，可能會被攔截或破壞。但是，通過在本地處理預(yù)測，數(shù)據(jù)將保留在設(shè)備中，無需傳輸?shù)狡渌胤健?/p>

那么，與在云中為來自多個設(shè)備的數(shù)據(jù)管理多個推理處理線程相比，在單個設(shè)備上進(jìn)行單個推理無疑是一項成本較低的任務(wù)。

最后，很明顯，占用帶寬的數(shù)據(jù)較少，可以使用普通的連接基礎(chǔ)結(jié)構(gòu)來構(gòu)建智能服務(wù)，而不會為特定的連接產(chǎn)生額外的費(fèi)用。

首先，由于這些智能設(shè)備允許對AI模型進(jìn)行幾乎實時的處理，因此打開了一個巨大潛力的場景。

借助這項技術(shù)，可以想象沒有排隊的自由流動結(jié)賬服務(wù)，因為相機(jī)可以識別出托盤中的食物?；虬踩O(shè)備的自動檢測服務(wù)（例如COVID面罩），入侵的檢測以及能耗的監(jiān)視和預(yù)測或機(jī)械的自動預(yù)測管理等。

在特定的用例中，將人工智能的力量傳遞到最后一英里可以使它成為力量的乘數(shù)，從而導(dǎo)致計算工作的細(xì)分，并提高了設(shè)計服務(wù)的有效性和效率。

結(jié)論

我們的結(jié)論是，盡管沒有明確的選擇，但對于Cloud Ai和Edge AI，架構(gòu)已可以用于其用途，而設(shè)計新的智能服務(wù)的人將必須能夠充分利用這兩種技術(shù)不僅可以改善服務(wù)的固有性能，還可以確保創(chuàng)新的軟件解決方案具有更好的用戶體驗。
責(zé)任編輯:tzh