盡管模仿人類思想和想法的軟件算法是人工智能的基礎(chǔ)，但硬件也是一個(gè)重要的組成部分，這就是現(xiàn)場(chǎng)可編程門陣列（FPGA）和圖形處理單元發(fā)揮至關(guān)重要的作用。

人工智能 （AI） 是指能夠以與人類相同的方式做出決策的非人類機(jī)器智能。這包括沉思、適應(yīng)性、意圖能力和判斷力。機(jī)器視覺(jué)、機(jī)器人自動(dòng)化、認(rèn)知計(jì)算、機(jī)器學(xué)習(xí)和計(jì)算機(jī)視覺(jué)都是人工智能市場(chǎng)的應(yīng)用。人工智能正在汽車、消費(fèi)電子、媒體和娛樂(lè)以及半導(dǎo)體等各種行業(yè)領(lǐng)域迅速獲得牽引力，預(yù)示著下一次重大技術(shù)變革。

預(yù)計(jì)未來(lái)幾年半導(dǎo)體制造的范圍將擴(kuò)大。隨著全球?qū)C(jī)器學(xué)習(xí)設(shè)備的需求不斷增長(zhǎng)，屬于EDA（電子設(shè)計(jì)自動(dòng)化）、顯卡、游戲、多媒體行業(yè)的許多主要市場(chǎng)參與者都在投資提供創(chuàng)新和高速計(jì)算處理器。雖然人工智能主要基于模仿人類思想和想法的軟件算法，但硬件也是一個(gè)重要的組成部分?，F(xiàn)場(chǎng)可編程門陣列 （FPGA） 和圖形處理單元 （GPU） 是大多數(shù) AI 操作的兩種主要硬件解決方案。根據(jù)優(yōu)先研究小組的數(shù)據(jù)，10 年全球硬件市場(chǎng)中的人工智能價(jià)值為 41.2021 億美元，預(yù)計(jì)到 89 年將達(dá)到 22.2030 億美元，26 年至 96 年的復(fù)合年增長(zhǎng)率為 2022.2030%。

FPGA 概述

具有可重編程邏輯門的硬件電路稱為現(xiàn)場(chǎng)可編程門陣列（FPGA）。當(dāng)芯片在現(xiàn)場(chǎng)使用時(shí)，用戶可以通過(guò)覆蓋配置來(lái)設(shè)計(jì)獨(dú)特的電路。這與無(wú)法重新編程的標(biāo)準(zhǔn)芯片形成鮮明對(duì)比。借助 FPGA 芯片，您可以構(gòu)建從簡(jiǎn)單邏輯門到多核芯片組的任何內(nèi)容。FPGA的使用非常流行，其中本征電路至關(guān)重要，并且預(yù)計(jì)會(huì)發(fā)生變化。FPGA 應(yīng)用涵蓋了 ASIC 原型設(shè)計(jì)、汽車、多媒體、消費(fèi)電子以及更多領(lǐng)域。根據(jù)應(yīng)用要求，選擇低端、中端或高端FPGA配置。萊迪思半導(dǎo)體的ECP3和ECP5系列、賽靈思的Artix-7/Kintex-7系列以及英特爾的Stratix系列是一些流行的低功耗和低設(shè)計(jì)密度FPGA設(shè)計(jì)。

邏輯塊使用輸入有限的查找表 （LUT） 構(gòu)建，并使用基本存儲(chǔ)器（如 SRAM 或閃存）構(gòu)建以存儲(chǔ)布爾函數(shù)。每個(gè)LUT都連接到多路復(fù)用器和觸發(fā)器寄存器，以支持順序電路。同樣，許多LUT可用于創(chuàng)建復(fù)雜的功能。閱讀我們的 FPGA 博客，了解有關(guān)其架構(gòu)的更多信息。

FPGA 更適合嵌入式應(yīng)用，并且比 CPU 和 GPU 功耗更低。這些電路不受 GPU 等設(shè)計(jì)的限制，可以與定制數(shù)據(jù)類型一起使用。此外，F(xiàn)PGA 的可編程性使其更容易修改以解決安全和安全問(wèn)題。

使用 FPGA 的優(yōu)勢(shì)

節(jié)能

借助 FPGA，設(shè)計(jì)人員可以精確調(diào)整硬件以滿足應(yīng)用的要求。憑借其低功耗能力，可以將 AI 和 ML 應(yīng)用的總體功耗降至最低。這可以延長(zhǎng)設(shè)備的使用壽命并降低培訓(xùn)的總體成本。

易于靈活

FPGA 為處理 AI/ML 應(yīng)用提供了可編程性的靈活性?？梢愿鶕?jù)要求對(duì)單個(gè)塊或整個(gè)塊進(jìn)行編程。

減少延遲

FPGA 擅長(zhǎng)處理短批處理短語(yǔ)，并減少延遲。減少延遲是指計(jì)算系統(tǒng)以最小延遲響應(yīng)的能力。這在實(shí)時(shí)數(shù)據(jù)處理應(yīng)用中至關(guān)重要，例如視頻監(jiān)控、視頻預(yù)處理和后處理以及文本識(shí)別，在這些應(yīng)用中，每一微秒都很重要。由于 FPGA 和 ASIC 在沒(méi)有操作系統(tǒng)的裸機(jī)環(huán)境中運(yùn)行，因此它們比 GPU 更快。

并行處理

FPGA 能夠同時(shí)承載多個(gè)任務(wù)，甚至為特定功能指定器件的特定部分，從而顯著提高其操作和能效。少量分布式存儲(chǔ)器包含在FPGA特殊架構(gòu)的結(jié)構(gòu)中，使它們更接近處理器。

圖形用戶界面概述

圖形處理單元 （GPU） 的最初目的是創(chuàng)建計(jì)算機(jī)圖形和虛擬現(xiàn)實(shí)環(huán)境，這些環(huán)境依賴于復(fù)雜的計(jì)算和浮點(diǎn)功能來(lái)渲染幾何對(duì)象。沒(méi)有它們，現(xiàn)代人工智能基礎(chǔ)設(shè)施將是不完整的，并且非常適合深度學(xué)習(xí)過(guò)程。

人工智能需要大量的數(shù)據(jù)來(lái)研究和學(xué)習(xí)才能成功。要運(yùn)行AI算法并移動(dòng)大量數(shù)據(jù)，需要大量的計(jì)算能力。GPU 可以執(zhí)行這些任務(wù)，因?yàn)樗鼈兪菫榱丝焖偬幚砩蓤D形和視頻所需的大量數(shù)據(jù)而創(chuàng)建的。它們?cè)跈C(jī)器學(xué)習(xí)和人工智能應(yīng)用中的廣泛使用部分歸功于它們的高計(jì)算能力。

GPU 可以同時(shí)處理多個(gè)計(jì)算。因此，訓(xùn)練過(guò)程可以分發(fā)，從而大大加快了機(jī)器學(xué)習(xí)活動(dòng)的速度。使用 GPU，您可以添加多個(gè)資源要求較低的內(nèi)核，而不會(huì)影響性能或功耗。市場(chǎng)上有各種類型的 GPU，通常分為以下幾類，例如數(shù)據(jù)中心 GPU、消費(fèi)級(jí) GPU 和企業(yè)級(jí) GPU。

使用 GPU 的優(yōu)勢(shì)

內(nèi)存帶寬

GPU 具有良好的內(nèi)存帶寬，因此它們傾向于在深度學(xué)習(xí)應(yīng)用程序的情況下快速執(zhí)行計(jì)算。GPU 在大型數(shù)據(jù)集上訓(xùn)練模型時(shí)消耗的內(nèi)存更少。憑借高達(dá) 750GB 的內(nèi)存帶寬，它們可以真正加速 AI 算法的快速處理。

多核

通常，GPU 由許多可以組合在一起的處理器集群組成。這使得可以大大提高系統(tǒng)的處理能力，特別是對(duì)于具有并行數(shù)據(jù)輸入、卷積神經(jīng)網(wǎng)絡(luò) （CNN） 和 ML 算法訓(xùn)練的 AI 應(yīng)用程序。

靈活性

由于 GPU 的并行功能，您可以將 GPU 分組到集群中，并在這些集群之間分配作業(yè)。另一種選擇是使用具有專用集群的單個(gè) GPU 來(lái)訓(xùn)練特定算法。具有高數(shù)據(jù)吞吐量的 GPU 可以對(duì)多個(gè)數(shù)據(jù)點(diǎn)并行執(zhí)行相同的操作，從而能夠以無(wú)與倫比的速度處理大量數(shù)據(jù)。

數(shù)據(jù)集大小

對(duì)于模型訓(xùn)練，AI 算法需要一個(gè)大型數(shù)據(jù)集，該數(shù)據(jù)集需要占用大量?jī)?nèi)存計(jì)算。GPU 是高效處理具有許多大小大于 100GB 的數(shù)據(jù)點(diǎn)的數(shù)據(jù)集的最佳選擇之一。自并行處理開(kāi)始以來(lái)，它們提供了有效處理基本相同或非結(jié)構(gòu)化數(shù)據(jù)所需的原始計(jì)算能力。

運(yùn)行 AI 應(yīng)用程序的兩個(gè)主要硬件選擇是 FPGA 和 GPU。盡管 GPU 可以處理 AI 和深度學(xué)習(xí)所需的大量數(shù)據(jù)，但它們?cè)谀茉葱?、散熱?wèn)題、耐用性以及使用新的 AI 算法更新應(yīng)用程序的能力方面存在局限性。FPGA 為神經(jīng)網(wǎng)絡(luò)和 ML 應(yīng)用提供了顯著的優(yōu)勢(shì)。其中包括 AI 算法更新的便利性、可用性、耐用性和能源效率。

此外，在創(chuàng)建FPGA軟件方面也取得了重大進(jìn)展，使編譯和編程變得更加簡(jiǎn)單。若要使 AI 應(yīng)用程序成功，必須調(diào)查硬件的可能性。正如所說(shuō)，在確定行動(dòng)方案之前，請(qǐng)仔細(xì)權(quán)衡您的選擇。

Softnautics AI/ML 專家在為各種邊緣平臺(tái)（包括 CPU、GPU、TPU 和神經(jīng)網(wǎng)絡(luò)編譯器）創(chuàng)建高效的機(jī)器學(xué)習(xí)解決方案方面擁有豐富的專業(yè)知識(shí)。我們還通過(guò)結(jié)合最佳設(shè)計(jì)方法和適當(dāng)?shù)募夹g(shù)堆棧，提供安全的嵌入式系統(tǒng)開(kāi)發(fā)和FPGA設(shè)計(jì)服務(wù)。我們幫助企業(yè)跨各種平臺(tái)構(gòu)建高性能云和基于邊緣的 AI/ML 解決方案，例如關(guān)鍵短語(yǔ)/語(yǔ)音命令檢測(cè)、面部/手勢(shì)識(shí)別、物體/車道檢測(cè)、人工計(jì)數(shù)等。

審核編輯：郭婷