9月15日，由Design&Reuse主辦的IP SoC China 2020大會(huì)以在線方式舉行。會(huì)議邀請(qǐng)了多家領(lǐng)先半導(dǎo)體企業(yè)，尤其是半導(dǎo)體知識(shí)產(chǎn)權(quán)（Silicon IP）廠商的高管或技術(shù)專家，圍繞人工智能、汽車、RISC-V、物聯(lián)網(wǎng)、視頻、網(wǎng)絡(luò)和接口、設(shè)計(jì)平臺(tái)等話題發(fā)表了精彩演講，并在線回答了參會(huì)者的問題。 Imagination Technologies作為全球領(lǐng)先的半導(dǎo)體IP廠商受邀在人工智能（AI）分會(huì)上發(fā)表主題演講并參與問答環(huán)節(jié)。隨著AI技術(shù)和應(yīng)用的發(fā)展越發(fā)火熱，Imagination不斷加大對(duì)AI領(lǐng)域的投入。截至目前，Imagination針對(duì)AI的研究已經(jīng)超過7年，積累了80多項(xiàng)已申請(qǐng)或已批準(zhǔn)的AI專利，其可支持多種AI應(yīng)用的PowerVR圖形處理器（GPU）和神經(jīng)網(wǎng)絡(luò)加速器（NNA）IP獲得了業(yè)界的一致認(rèn)可。

Imagination持續(xù)投資于AI領(lǐng)域

AI芯片市場(chǎng)需求潛力巨大

本次會(huì)議上，Imagination中國(guó)區(qū)戰(zhàn)略市場(chǎng)與生態(tài)高級(jí)總監(jiān)時(shí)昕帶來了題為“高效開發(fā)和部署AI應(yīng)用——從云到邊緣”的演講，從AI芯片的發(fā)展趨勢(shì)，Imagination Series3NX NNA的特性和優(yōu)勢(shì)，Imagination NNA和GPU協(xié)同工作以支持AI應(yīng)用等方面進(jìn)行了精彩分享。

AI芯片營(yíng)收的增長(zhǎng)趨勢(shì)

時(shí)昕表示：“近幾年，AI獲得了非常多的應(yīng)用，在云端和邊緣側(cè)都有很多市場(chǎng)機(jī)會(huì)。根據(jù)ABI Research的預(yù)測(cè)，未來最大的需求是邊緣側(cè)的推理芯片，在2024年大約有70億美元的市場(chǎng)需求，云端的推理芯片也有大約40億美元的需求，這110億美元的市場(chǎng)空間意味著Imagination的AI IP可以幫助我們的芯片客戶去爭(zhēng)取巨大的市場(chǎng)機(jī)會(huì)。統(tǒng)一架構(gòu)的芯片既可用于云端，也可用于邊緣，從而能使客戶有效降低芯片的設(shè)計(jì)與流片成本?！?/p>

Imagination的AI芯片IP有哪些優(yōu)勢(shì)？

在演講中，時(shí)昕重點(diǎn)介紹了Imagination PowerVR Series3NX NNA的性能優(yōu)勢(shì)和對(duì)各類應(yīng)用場(chǎng)景的廣泛支持：“相比我們前一代的2NX NNA，3NX NNA可以在更低功耗的基礎(chǔ)上提供70%的算力提升，同時(shí)也會(huì)提供更多的位寬選擇，PPA（性能、功耗、面積）指標(biāo)會(huì)比2NX高很多?！?/p>

在2NX NNA優(yōu)異性能的基礎(chǔ)上，3NX進(jìn)一步實(shí)現(xiàn)了性能的大幅提升 此前，Imagination的2NX NNA曾經(jīng)在很多AI Benchmark榜單上霸榜，隨著基于3NX NNA IP的芯片面世，也將為終端產(chǎn)品帶來更好的體驗(yàn)。

另外，時(shí)昕表示，“3NX NNA擁有非常強(qiáng)的算力可配置性，可以提供從1 TOPS到上百TOPS的算力，以滿足豐富的AI應(yīng)用場(chǎng)景對(duì)算力的不同需求。對(duì)于強(qiáng)調(diào)低功耗但性能要求不嚴(yán)苛的場(chǎng)景，例如一些物聯(lián)網(wǎng)設(shè)備，可以選用我們較小的單核NNA；對(duì)于場(chǎng)景復(fù)雜度和算力需求很高的應(yīng)用，例如自動(dòng)駕駛，我們可以通過多核形式提供上百TOPS的算力，客戶可以根據(jù)自身需求進(jìn)行靈活的、有針對(duì)性的選擇?！?/p>

借助NNPU技術(shù)預(yù)處理圖像

在介紹3NX NNA時(shí)，時(shí)昕特別強(qiáng)調(diào)了Imagination的NNPU技術(shù)。NNPU是3NX在2NX基礎(chǔ)上新增的一個(gè)可編程計(jì)算模塊，可以針對(duì)NNA無法處理的一些計(jì)算進(jìn)行預(yù)處理。

NNPU技術(shù)的應(yīng)用場(chǎng)景 例如，通常為了獲得更廣的視角會(huì)使用魚眼相機(jī)，但是拍攝出來的視頻會(huì)存在畸變，這時(shí)就可以使用NNPU利用Dewarping等算法對(duì)圖像進(jìn)行校正；又如，多攝像頭環(huán)繞視圖的視頻拼接也可以使用NNPU來處理。在NNPU進(jìn)行預(yù)處理之后，再將視頻交給NNA，由其針對(duì)目標(biāo)檢測(cè)/識(shí)別等應(yīng)用進(jìn)行非常高效的計(jì)算和處理。

AI協(xié)同構(gòu)建強(qiáng)大計(jì)算平臺(tái)

NNA除了可以單獨(dú)使用外，還可以和Imagination的傳統(tǒng)優(yōu)勢(shì)產(chǎn)品GPU配合使用，Imagination將這種技術(shù)稱為AI協(xié)同（AI Synergy）。

Imagination創(chuàng)新性的AI協(xié)同技術(shù)

“我們的GPU在邊緣側(cè)和云端都可以支持硬件虛擬化，因此可以將GPU的部分能力用于圖像渲染，另一部分能力與NNA加速器配合用于AI計(jì)算，從而形成異構(gòu)AI計(jì)算平臺(tái)。同時(shí)，為了減小內(nèi)存墻的影響，我們采用了片上存儲(chǔ)器，可以降低存儲(chǔ)帶寬和延遲，并且可以和芯片上的其他內(nèi)核分享存儲(chǔ)，從而在提高性能、支持快速處理的同時(shí)可以降低成本?！睍r(shí)昕介紹道。

Imagination強(qiáng)大而豐富的軟件體系 除了硬件外，為了方便AI應(yīng)用開發(fā)者，Imagination還提供了完整的驅(qū)動(dòng)和軟件開發(fā)套件。一套API即可滿足多種方案的開發(fā)需求，還支持在GPU和NNA之間互聯(lián)互通。 此外，Imagination作為Android神經(jīng)網(wǎng)絡(luò)API標(biāo)準(zhǔn)的制定和參與者，其軟件還可以支持Android開發(fā)，開發(fā)人員使用NNA API可以將神經(jīng)網(wǎng)絡(luò)功能帶入基于Android的移動(dòng)設(shè)備。在Android之外，Imagination的軟件也完全支持各種常見的Linux和RTOS操作系統(tǒng)。

END

原文標(biāo)題：從云到邊緣！Imagination NNA實(shí)現(xiàn)AI應(yīng)用的高效開發(fā)和部署 | IP SoC China2020

文章出處：【微信公眾號(hào)：Imagination Tech】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。