2018年10月16日，FPGA大廠賽靈思（Xilinx）在北京召開了一年一度的“Xilinx開發(fā)者大會 ”(XDF) 。在本次會議上，賽靈思發(fā)布了全球首款自適應(yīng)計算加速平臺 (Adaptive Compute Acceleration Platform ，ACAP)芯片系列Versal。與此同時，賽靈思還針對云端和本地數(shù)據(jù)中心市場還發(fā)布了一款功能強大的加速器卡——Alveo。至此，賽靈思的轉(zhuǎn)型大幕正式開啟，而人工智能則是賽靈思轉(zhuǎn)型的最大推力。

AI推斷需求暴漲，推動FPGA市場加速增長

目前，人工智能可謂是非常的火爆。而數(shù)據(jù)的爆發(fā)式增長，人工智能算法的不斷完善以及芯片算力的快速增長，則是推動人工智能應(yīng)用爆發(fā)的三大關(guān)鍵因素。

隨著人工智能計算的快速發(fā)展，自去年以來更是出現(xiàn)了一股AI芯片的熱潮。由于傳統(tǒng)的CPU、GPU已經(jīng)開始難以滿足越來越多的新的需求，并且在AI計算能效上也開始處于劣勢。在此形勢之下，半定制的FPGA和定制型的ASIC開始迎來了高速的發(fā)展。

雖然ASIC芯片的計算能力和計算效率都直接根據(jù)特定的算法的需要進行定制的，可以實現(xiàn)體積小、功耗低、計算性能高、計算效率高等優(yōu)勢，但是人工智能仍在快速發(fā)展，每天都會有不少新的算法/模型出現(xiàn)，很多領(lǐng)域都還沒有一個標(biāo)準(zhǔn)的算法。

而ASIC芯片則是針對特定算法的需要進行設(shè)計的，設(shè)計一旦完成就無法修改，通常一顆ASIC芯片從設(shè)計到量產(chǎn)一般都需要18-24個月的時間，這也意味著當(dāng)這款A(yù)SIC芯片量產(chǎn)之時，可能就已經(jīng)落后于當(dāng)下算法發(fā)展的18-24個月的時間。相比之下，F(xiàn)PGA則沒有這個問題。

另外，在市場需求變化越來越快速的當(dāng)下，客戶都希望產(chǎn)品能夠在快速創(chuàng)新的同時，盡可能的實現(xiàn)快速上市。FPGA作為一種可編程的半定制芯片，其與GPU一樣具有并行處理優(yōu)勢，并且也可以設(shè)計成具有多內(nèi)核的形態(tài)，當(dāng)然其最大的優(yōu)勢還是在于其可以通過軟件編程的手段更改、配置器件內(nèi)部連接結(jié)構(gòu)和邏輯單元，完成既定設(shè)計功能的數(shù)字集成電路。這也意味著即使是出廠后的FPGA的邏輯塊和連接，開發(fā)者若要適應(yīng)新的AI算法或者實現(xiàn)新的功能應(yīng)用，只需通過升級軟件就可重新配置這些芯片，可以更加快速的適應(yīng)市場的需求。

雖然GPU也可靈活的適應(yīng)各種AI算法，但是能效很低。而GPU雖然被廣泛的用于深度學(xué)習(xí)領(lǐng)域，但是需要指出的是，其主要被應(yīng)用在深度學(xué)習(xí)的訓(xùn)練環(huán)節(jié)，在推理時對于小批量數(shù)據(jù)，并行計算的優(yōu)勢不能發(fā)揮出來。但而FPGA同時擁有流水線并行和數(shù)據(jù)并行，因此處理推理任務(wù)時候可以時延更低。

根據(jù)賽靈思在會上公布的來自Barclays Reseach于今年5月公布的數(shù)據(jù)顯示，目前人工智能市場主要來自于“訓(xùn)練”的需求，不過自2019年開始來自“推斷”（包括數(shù)據(jù)中心和邊緣端）的需求將會持續(xù)快速爆發(fā)式增長。而“訓(xùn)練”的需求增長將會逐漸放緩，并趨于停滯。到2021年來自“推斷”的市場規(guī)模將會首次超過“訓(xùn)練”，之后2023年將達到“訓(xùn)練”市場的三倍左右。

另外有數(shù)據(jù)顯示，未來至少95%的AI計算都是用于“推斷”，只有不到5%是用于模型“訓(xùn)練”。

賽靈思軟件及IP產(chǎn)品執(zhí)行副總裁Salil Raje

賽靈思軟件及IP產(chǎn)品執(zhí)行副總裁Salil Raje也指出：“今后AI模型必須應(yīng)用在云端和邊緣的模型上，所以未來的模式更多的是推斷，而不是訓(xùn)練。賽靈思關(guān)注的就是推斷。”

而“推斷”則是FPGA的優(yōu)勢。其可以在大幅提升推能效、降低功耗（韓國SK電訊的NUGU個人助理服務(wù)器原來采用的是GPU來進行AI加速，在采用賽靈思的FPGA之后，實現(xiàn)了每瓦性能比原本的GPU方案提升了16倍）的同時，還可降低精度損失，同時其還擁有出色的靈活性和低延時特性。不難想象，隨著AI“推斷”需求的快速增長，F(xiàn)PGA市場也有望迎來高速成長。

賽靈思VR Ramine在會后接受專訪時也表示：“雖然GPU現(xiàn)在在深度學(xué)習(xí)訓(xùn)練這一塊應(yīng)用非常多，但是它的功耗很高，而且這個市場已經(jīng)處于比較飽和的狀態(tài)。而賽靈思并不是特別關(guān)注訓(xùn)練這個市場，我們更多關(guān)注的是推斷這部分的市場，這個市場仍然處于初期上升期，尤其在推斷在加速應(yīng)用這方面剛剛處于一個快速增長的階段，特別是在數(shù)據(jù)中心和邊緣計算領(lǐng)域。在推斷這塊市場，GPU用的并不多。雖然CPU有一定的市場份額，但是性能、能效和時延也并不好。所以為什么賽靈思在推斷這個領(lǐng)域，包括在智慧城市、自動駕駛車領(lǐng)域已經(jīng)有了很多的客戶?！?/p>

而作為FPGA市場的老大（占據(jù)了近60%的市場份額），賽靈思也將成為最大的受益者。在AI異?；鸨漠?dāng)下，此次賽靈思的開發(fā)者大會也是備受行業(yè)內(nèi)外的廣泛關(guān)注，會議現(xiàn)場更是人氣爆棚，近千人的會場是座無虛席。

超越FPGA，迎來全新物種ACAP

雖然FPGA擁有很多的優(yōu)勢，但是不可否認(rèn)的是，F(xiàn)PGA的基本單元的計算能力是有限的。為了實現(xiàn)可重構(gòu)的特性，F(xiàn)PGA內(nèi)部有大量極細(xì)粒度的基本單元，但是每個單元的計算能力（主要依靠LUT查找表）都遠遠低于CPU和GPU中的ALU模塊。另外，在計算的效率和功耗上FPGA也要低于ASIC。

隨著越來越多的應(yīng)用趨向于既具高速處理又兼具靈活性的系統(tǒng)，F(xiàn)PGA廠商為了彌補單純采用FPGA的缺陷，開始推出整合了CPU/GPU/RF/FPGA的異構(gòu)SoC的融合性方案。

比如賽靈思此前就曾推出了多處理器SoC（MPSoC，在FPGA上整合了Arm的CPU內(nèi)核，還有Mali系列的GPU等）、RFSoC（將通信級RF采樣數(shù)據(jù)轉(zhuǎn)換器、SD-FEC內(nèi)核、Arm處理器以及 FPGA 架構(gòu)整合到單芯片器件中）。而為了能夠幫助更多的用戶和開發(fā)者提供更為強大的計算平臺，今年3月，賽靈思還發(fā)布了全新的超越FPGA功能的突破性新型產(chǎn)品——ACAP自適應(yīng)計算加速平臺。

賽靈思軟件及IP產(chǎn)品執(zhí)行副總裁Salil Raje表示：“賽靈思在過去三十年當(dāng)中一直引領(lǐng)FPGA行業(yè)的發(fā)展。FPGA是非常強大的，靈活度非常好，但是現(xiàn)在我們面臨著海量的數(shù)據(jù)，摩爾定律已經(jīng)不再有效了，現(xiàn)在沒有任何一個單一的計算架構(gòu)能夠適應(yīng)如此海量的數(shù)據(jù)。我們需要進入一個異構(gòu)計算的時代，需要各種各樣的計算架構(gòu)才能解決現(xiàn)在所面臨的挑戰(zhàn)。ACAP就是我們?yōu)榱私鉀Q這項挑戰(zhàn)所推出的具有顛覆性的創(chuàng)新型產(chǎn)品?！?/p>

據(jù)介紹，ACAP結(jié)合了分布式存儲器與硬件可編程的DSP 模塊、一個多核SoC 以及一個或多個軟件可編程且同時又具備硬件自適應(yīng)性的計算引擎，并全部通過片上網(wǎng)絡(luò)（NoC，Network on Chip）實現(xiàn)互連。

賽靈思在現(xiàn)場展示的112G高速收發(fā)器演示

ACAP還擁有高度集成的可編程I/O功能，根據(jù)不同的器件型號這些功能從集成式硬件可編程存儲器控制器，到先進的SerDes收發(fā)器技術(shù)(最高可支持112Gbps)，前沿的RF-ADC/DAC和集成式高帶寬存儲器（HBM）。

軟件開發(fā)人員將能夠利用C/C++、OpenCL 和Python 等軟件工具應(yīng)用ACAP系統(tǒng)。同時，ACAP也仍然能利用FPGA工具從RTL級進行編程。

賽靈思總裁兼首席執(zhí)行官Victor Peng

賽靈思總裁兼CEOVictor Peng強調(diào)：“ACAP是一個全新的產(chǎn)品類別，它不是一個品牌的名稱，也不是FPGA。ACAP是可擴展的一體化程度非常高的計算平臺，它的硬件和軟件都是可編程的。也就是說，你可以用它來實現(xiàn)你想要的架構(gòu)來優(yōu)化網(wǎng)絡(luò)、優(yōu)化算法，優(yōu)化應(yīng)用。也可以在幾秒甚至幾毫秒內(nèi)改變這個架構(gòu)，它能夠?qū)崿F(xiàn)非常低的延時，非常高的通量，和原來產(chǎn)品類別有很大差異。”

全球首款A(yù)CAP——Versal系列

在此次的賽靈思開發(fā)者大會上，賽靈思正式發(fā)布了其歷時4年開放出的全球首款自適應(yīng)計算加速平臺（ACAP）產(chǎn)品——Versal系列。其整合了標(biāo)量處理引擎、自適應(yīng)硬件引擎和智能引擎以及前沿的存儲器和接口技術(shù)，能為所有的應(yīng)用提供強大的異構(gòu)加速功能。

賽靈思稱Versal ACAP獨特架構(gòu)針對云端、網(wǎng)絡(luò)、無線通信乃至邊緣計算和端點等不同市場的眾多應(yīng)用提供了可擴展性和 AI 推斷功能，將為所有的開發(fā)者開發(fā)任何應(yīng)用開啟了一個快速創(chuàng)新的新時代。

具體來說，Versal系列產(chǎn)品均基于臺積電最新的7nmFinFET工藝，是第一個將軟件可編程性與特定領(lǐng)域硬件加速和靈活應(yīng)變能力相結(jié)合的平臺。該產(chǎn)品組合包括了6個系列的器件：基礎(chǔ)系列（Versal Prime），旗艦系列（Versal Premium旗艦）系列和HBM系列（能針對要求最嚴(yán)格的應(yīng)用提供業(yè)界領(lǐng)先的性能、連接性、帶寬和集成功能）。此外，該產(chǎn)品組合還包括AI核心系列（AI Core），AI邊緣系列( AI Edge) 和AI射頻系列（AI RF），Versal AI系列均采用了突破性的AI引擎。

據(jù)賽靈思介紹，ACAP的AI引擎是一種新型硬件模塊，專為解決各種應(yīng)用低時延 AI 推斷的新需求而設(shè)計，同時支持高級DSP實現(xiàn)方案，滿足無線和雷達等應(yīng)用要求。它與Versal的自適應(yīng)硬件引擎緊密結(jié)合，支持整體應(yīng)用加速，也就是說軟硬件都能調(diào)節(jié)，從而確保最高性能和效率。

不過，此次開發(fā)者大會上，賽靈思只發(fā)布了Versal基礎(chǔ)系列和Versal AI核心系列，這兩款芯片有望在今年年底流片。而Versal旗艦系列和AI Edge將會在明年上半年發(fā)布；AI RF系列將會在明年下半年發(fā)布。至于Versal HBM系列可能要等到2021年下半年才會發(fā)布。

Versal AI核心系列

據(jù)賽靈思介紹，Versal AI核心系列可提供Versal AI系列當(dāng)中最高的計算性能和最低的時延，可實現(xiàn)突破性的 AI 推斷吞吐量和性能。該系列主要針對云端、網(wǎng)絡(luò)和自動駕駛技術(shù)進行了優(yōu)化（支持L4級別的自動駕駛），可提供業(yè)界最廣泛的 AI 和工作負(fù)載加速功能。

Versal AI 核心系列有5款產(chǎn)品，可提供128到400個AI引擎。

該系列還包括雙核 Arm Cortex-A72 應(yīng)用處理器、雙核 Arm Cortex-R5 實時處理器、256KB片上ECC存儲器、超過1900個專為高精度低時延浮點運算而優(yōu)化的 DSP引擎。

此外，它還包括 190 多萬個系統(tǒng)邏輯單元以及超過 130Mb 的 UltraRAM、高達 34Mb 的塊 RAM 和 28Mb 分布式 RAM 和 32Mb 新加速器 RAM 塊，任何引擎都能直接訪問，這也是 Versal AI 系列的獨特之處，而且都能支持定制存儲器架構(gòu)。

該系列還包括 PCIe Gen4 8 信道和 16 信道以及 CCIX 主機接口、功耗優(yōu)化型 32G SerDes、多達 4 個集成型 DDR4 存儲器控制器、多達 4 個多速率以太網(wǎng) MAC、650 個高性能 I/O（用于 MIPI D-PHY）、NAND、存儲級內(nèi)存接口和 LVDS、78 個多路復(fù)用 I/O（連接外部組件）和超過 40 個 HD I/O（3.3V 接口）。

以上所有器件均通過業(yè)界一流的片上網(wǎng)絡(luò) (NoC) 實現(xiàn)互聯(lián)，具有多達 28 個主/從端口，以低時延提供每秒多 Tb 帶寬，而且提供高功率效率和原生軟件的可編程性。

Versal基礎(chǔ)系列

相對于Versal AI核心系列來說，Versal基礎(chǔ)系列最大的不同就是沒有了AI內(nèi)核，取而代之的則是更大面積的DSP，并針對各種工作負(fù)載的連接性和在線加速進行了優(yōu)化。適用于多個市場的廣泛應(yīng)用。

Versal基礎(chǔ)系列包括 9 款產(chǎn)品，每款產(chǎn)品都采用雙核Arm Cortex-A72 應(yīng)用處理器、雙核 Arm Cortex-R5 實時處理器、256KB 片上存儲器（帶 ECC）、超過 4000 個專為低時延高精度浮點運算優(yōu)化的 DSP 引擎。

此外，它還包括 200 多萬個系統(tǒng)邏輯單元，結(jié)合 200Mb 以上 UltraRAM、超過 90Mb 的塊 RAM 以及 30Mb 分布式 RAM，能支持定制存儲器架構(gòu)。該系列還包括 PCIe?Gen4 8信道和 16 信道以及 CCIX 主機接口、功耗優(yōu)化型 32Gb 每秒的 SerDes 和主流 58Gb 每秒的 PAM4 SerDes、多達 6 個集成型 DDR4 存儲器控制器、多達 4 個多速率以太網(wǎng) MAC、700 個高性能 I/O（支持 MIPI D-PHY）、NAND、存儲級內(nèi)存接口和 LVDS、78 個多路復(fù)用 I/O（連接外部組件）和超過 40 個 HD I/O（3.3V 接口）。

以上均通過業(yè)界一流的片上網(wǎng)絡(luò) (NoC) 實現(xiàn)互聯(lián)，具有多達 28 個主/從端口，以低時延提供每秒多 Tb 帶寬，而且提供高功率效率和原生的軟件可編程性。

性能對比

從上面的介紹來看，作為目前賽靈思ACAP的首款產(chǎn)品Versal系列，其各項指標(biāo)和參數(shù)都很出色。那么其AI性能與目前主流的高端CPU和GPU相比又如何呢？

根據(jù)賽靈思公布的數(shù)據(jù)顯示，在時延不敏感的AI推斷上，基于GoogleNet-V1網(wǎng)絡(luò)模型測試，Versal的CNN性能是英特爾Xeon Platinum8124 CPU的43倍，是Nvidia V100 GPU的兩倍。

如果要將時延控制在7ms以內(nèi)，那么Versal系列的CNN性能優(yōu)勢將會進一步提升，達到英特爾XeonPlatinum8124Skylake CPU的72倍，Nvidia V100 GPU的2.5倍。

如果將時延控制在更低的2ms之內(nèi)，那么Versal系列的CNN性能將達到Nvidia V100 GPU的8倍。

以基于GoogleNet-V1網(wǎng)絡(luò)低于2ms時延的圖片識別測試下，Versal核心系列可以實現(xiàn)每秒22500張圖片的識別，相比Nvidia今年發(fā)布的TeslaT4 GPU的性能（每秒3500張）高出約6.5倍。

如果再加上賽靈思收購的深鑒科技的“剪枝技術(shù)”的加持，Versal核心系列在2ms以內(nèi)的低時延圖像識別上的性能可進一步提升至每秒29250張，相比Nvidia TeslaT4 GPU的性能可高出8倍以上。

Versal工具和軟件

軟件開發(fā)者、數(shù)據(jù)科學(xué)家和硬件開發(fā)者均可通過C/C++、OpenCL 和Python 等軟件工具應(yīng)用對Versal ACAP的硬件和軟件進行編程和優(yōu)化，同時，ACAP也仍然能利用FPGA工具從RTL級進行編程。開發(fā)者用一個界面就可以接入和控制各種引擎。這都要歸功于其符合業(yè)界標(biāo)準(zhǔn)設(shè)計流程的一系列工具、軟件、庫、IP、中間件和框架。

不過，具體的軟件編程工具需要等到明年才會發(fā)布。

供貨情況

賽靈思目前正通過早期試用計劃與多家關(guān)鍵客戶合作。Versal基礎(chǔ)系列和Versal AI核心系列將于今年年底流片，預(yù)計2019年下半年上市。

加碼數(shù)據(jù)中心，Alveo速器卡發(fā)布

除了發(fā)布了全新的Versal系列之外，賽靈思此次還首次推出了針對數(shù)據(jù)中心設(shè)計的功能強大的加速器卡——Alveo。用戶在通過Alveo運行實時機器學(xué)習(xí)推斷以及視頻處理、基因組學(xué)、數(shù)據(jù)分析等關(guān)鍵的數(shù)據(jù)中心應(yīng)用時，有望以較低時延實現(xiàn)突破性的性能提升。

此次賽靈思發(fā)布了兩款A(yù)lveo加速卡：Alveo U200和AlveoU250。不過這兩款產(chǎn)品并不是采用Versal系列芯片，而是采用的是賽靈思UltraScale+FPGA方案。不過，其與所有賽靈思技術(shù)一樣，客戶能對硬件進行重配置，從而針對工作負(fù)載遷移、新標(biāo)準(zhǔn)和更新的算法進行優(yōu)化，而且無需支付替代產(chǎn)品衍生的成本。

據(jù)賽靈思介紹稱，Alveo加速器卡針對各種類型的應(yīng)用提供顯著的性能優(yōu)勢。就機器學(xué)習(xí)而言，在GoogLeNet V1網(wǎng)絡(luò)下，Alveo U250實時推斷吞吐量比英特爾Xeon Platinum Skylake CPU（c5.18xlarge 實例）高出20倍，相對于Nvidia V100 GPU等固定功能的加速器，能讓2ms以下的低時延應(yīng)用性能提升4倍以上。

此外，Alveo 加速器卡相對于 GPU 能將時延減少 3 倍，在運行實時推斷應(yīng)用時提供顯著的性能優(yōu)勢。比如在CNN+BLSTM 語音轉(zhuǎn)文本應(yīng)用時，可從根本上得到加速（Alveo U250 或 U200 +Intel Xeon CPU E5-2686 v4 的運行速度是 Nvidia P4 + Xeon CPU E5-2690v4 的 4 倍）；數(shù)據(jù)庫搜索等一些應(yīng)用可從根本上得到加速，性能比CPU（EC2 C4.8xlarge 實例）高90倍以上。

“Alveo加速器卡第一是速度快；第二是架構(gòu)和算法靈活多變；第三是容易訪問、易于使用。”對于Alveo加速器卡的特點Victor Peng總結(jié)到。

據(jù)賽靈思介紹，Alveo已經(jīng)得到了合作伙伴和 OEM 廠商生態(tài)系統(tǒng)的支持，OEM 廠商開發(fā)和認(rèn)證的關(guān)鍵應(yīng)用涵蓋 AI/ML、視頻轉(zhuǎn)碼、數(shù)據(jù)分析、金融風(fēng)險建模、安全和基因組學(xué)等。Algo-Logic Systems Inc、Bigstream、BlackLynx Inc.、CTAccel、Falcon Computing、Maxeler Technologies、Mipsology、NGCodec、Skreens、SumUp Analytics、Titan IC、Vitesse Data、VYUsync 和 Xelera Technologies等14家生態(tài)系統(tǒng)合作伙伴開發(fā)完成的應(yīng)用可立即投入部署。此外，頂級 OEM 廠商也在同賽靈思合作，認(rèn)證采用 Alveo 加速器卡的多個服務(wù)器 SKU，包括 Dell EMC、Fujitsu Limited 和 IBM 等，此外還有 OEM 廠商會加入進來。

賽靈思的數(shù)據(jù)中心副總裁 Manish Muthal 指出：“Alveo加速器卡的推出進一步推進了賽靈思向平臺公司的轉(zhuǎn)型，使不斷增長的應(yīng)用合作伙伴生態(tài)系統(tǒng)以比以往更快的速度加速創(chuàng)新。我們很高興客戶對Alveo加速器的高度興趣，也很高興與我們的應(yīng)用生態(tài)系統(tǒng)展開合作，共同向客戶推出采用Alveo的各種可產(chǎn)品化的的解決方案?！?/p>

另外值得一提的是，在此次賽靈思開發(fā)者大會上，華為和浪潮也發(fā)布了基于賽靈思的FPGA打造自己加速卡產(chǎn)品。

轉(zhuǎn)型平臺廠商

賽靈思總裁兼首席執(zhí)行官（CEO）Victor Peng 表示:“自從賽靈思發(fā)明FPGA到現(xiàn)在已經(jīng)有三十多年的時間，F(xiàn)PGA也變得越來越強大和復(fù)雜，我們現(xiàn)在已經(jīng)超越了FPGA。賽靈思已經(jīng)不再是一家FPGA的企業(yè)，我們已經(jīng)轉(zhuǎn)型為一家面向靈活應(yīng)變、萬物智能世界的平臺公司，而且我們這個轉(zhuǎn)型也要超越FPGA這個器件來打造整個平臺，因為這將使得我們能夠更好的滿足客戶的需求，尤其是在當(dāng)今這個高速變化時代?！?/p>

為了順利的轉(zhuǎn)型為一家平臺型公司，Victor Peng將“數(shù)據(jù)中心優(yōu)先”、加速核心市場發(fā)展和驅(qū)動靈活應(yīng)變的計算這三個方面作為了賽靈思公司戰(zhàn)略轉(zhuǎn)型的進一步深入。

在此次開發(fā)者大會上，賽靈思發(fā)布的全球首款自適應(yīng)異構(gòu)計算加速平臺ACAP Versal以及針對數(shù)據(jù)中心的Alveo加速器卡，也正是賽靈思轉(zhuǎn)型平臺廠商新戰(zhàn)略的進一步深化。特別是ACAP更是被賽靈思寄予厚望。而后續(xù)賽靈思也必定會推出基于ACAP的加速卡。而這又將進一步助力賽靈思的數(shù)據(jù)中心優(yōu)先戰(zhàn)略。

“ACAP將實現(xiàn)高通量、可擴展、低延遲的性能，目前可以應(yīng)用在很多的應(yīng)用場景當(dāng)中。我們認(rèn)為ACAP未來將會幾乎進入到每一個市場當(dāng)中?！盫ictor Peng在賽靈思開發(fā)者大會上非常有信心的說到。