91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

華為麒麟970的NPU(神經(jīng)網(wǎng)絡處理器)到底是什么鬼

5RJg_mcuworld ? 2018-02-12 11:19 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

所謂的HiAI移動計算架構,主要有四部分組成,CPU、GPU、ISP/DSP和NPU。作為全球第一枚集成專用NPU的移動芯片,華為重點介紹NPU神經(jīng)網(wǎng)絡單元,聲稱在HiAI架構下AI性能密度大幅優(yōu)于CPU和GPU,能夠用更少的能耗更快的完成更多任務,大幅提升芯片的運算效率。

AI芯片能夠以人類的思考方式來理解人類訴求,具備高處理速度,高密度和高能效比,而麒麟970只是個開始,并超越競爭對手。

CPU部分,麒麟970與上一代麒麟960一樣為八核心設計,由4個主頻為2.4GHz的Cortex-A73大內核與4個主頻1.8GHz的Cortex-A53內核組成,性能上無變化,畢竟同樣架構頻率,傳聞所說的2.8GHz主頻吊打驍龍835并沒能實現(xiàn),但跑分上追平驍龍835應該沒問題,并且得益于10納米工藝的進步能效提升20%。

更具體來說,在16位浮點數(shù)(即FP16)時,麒麟970內置的NPU運算能力達到1.92 TFLOPs,在AI人工智能深度學習下,所有硬件能夠協(xié)調芯片內部的各個組件及手機硬件,如ISP、DSP,保持處理某些特定任務時,提升速度并低功耗運作。例如有了NPU的加成,在圖像識別任務上,對比Cortex-A73 CPU 性能提升25倍,能效提升50倍之多,拍攝1000張照片僅僅消耗4000mAh電池手機0.19%的電量,圖像識別速度可達到約2000張/分鐘。

相比之下,三星S8使用CPU處理每分鐘僅95張,蘋果iPhone 7 Plus同時使用CPU和GPU,每分鐘也僅能識別487張,華為完勝。

簡而言之,麒麟970有了NPU單元之后,至少在拍照和圖像處理上,比之前單純依賴CPU和GPU要快得多。而對于競爭對手,麒麟970最直接的就是保持高效率,并且更加的省電。未來AI獨立單元內置于芯片一定是趨勢,蘋果也在做,只是華為搶先開了個頭.

華為麒麟970的NPU(神經(jīng)網(wǎng)絡處理器)到底是什么鬼

日前,美國知名科技媒體Android Authority主筆Gary Sims對麒麟970進行了深度解讀,講述了麒麟970的人工智能NPU的工作原理,對芯片設計的深遠影響,以及為用戶使用場景帶來的跨越式體驗。

“神經(jīng)網(wǎng)絡(Neural Networks)”和“機器學習(Machine Learning)”是近兩年移動處理器領域最流行的兩個詞。華為麒麟970的NPU(神經(jīng)網(wǎng)絡處理器)、Google Pixel 2內置的IPU(圖像處理器),以及蘋果A11 Bionic,都是實現(xiàn)上述功能特性的專用硬件解決方案。

既然華為、Google和蘋果都在都在探索神經(jīng)引擎處理器,你可能以為機器學習需要特定的硬件。其實不然,神經(jīng)網(wǎng)絡可以在任何形式的處理器上運行,從微處理器到CPU、GPU甚至是DSP。

所以,問題的根本不在于處理器是否能利用神經(jīng)神經(jīng)網(wǎng)絡和機器學習,而在于它到底有多快,能提升多少效率。

如果時間倒退回30年前,當年的桌面處理器是沒有的FPU(浮點運算單元)芯片的,在486之后,Intel把FPU集成到了CPU內部,浮點運算性能大幅提升。而在很多實例計算中,全都是浮點數(shù)運算。這樣以來,有FPU和沒有FPU,運算效率天差之別。

而如今,移動處理器中的NPU也是類似的情況。你可能覺得我們并不需要NPU,就能使用神經(jīng)網(wǎng)絡,但實時情況是,華為正在用事實案例證明,當遇到實時處理運算的情況,NPU是必須的。

簡單來說,“神經(jīng)網(wǎng)絡”可以理解為“機器學習”中“教”一臺機器區(qū)別分辨不同“事物”的一系列技術中的一種。上述“事物”可以是一張照片、一個單詞甚至是一種動物的聲音,諸如此類。

“神經(jīng)網(wǎng)絡”由很多“神經(jīng)元”組成,這些“神經(jīng)元”可以接收輸入信號,然后通過網(wǎng)絡再向外傳播信號,這取決于輸入的強度和自身閾值。

舉個簡單的例子,神經(jīng)網(wǎng)絡正在監(jiān)測一組燈其中一個的開關,但在網(wǎng)絡中,這些燈的狀態(tài)只能0或者1來表達,但不同的燈可能會出現(xiàn)一樣的開關狀態(tài)。

那么問題來了,神經(jīng)網(wǎng)絡怎么知道是該輸出0還是該輸出1呢?沒有規(guī)則或者程序能告訴神經(jīng)網(wǎng)絡,輸出我們想得到的邏輯答案。

唯一的方面就是對神經(jīng)網(wǎng)絡進行訓練。大量的“樣本”和預期結果一起被注入到神經(jīng)網(wǎng)絡中,各種各樣的閾值反復微調,不斷產(chǎn)生接近預期的結果。這個階段可以稱為“訓練階段”。

這聽起來很簡單,但實際上相當復雜,尤其是遇到語言、圖像這種復雜樣本的時候。一旦訓練達成,神經(jīng)網(wǎng)絡會自動學會輸出預期結果,即便輸入的“樣本”之前從來沒有見過。

神經(jīng)網(wǎng)絡訓練成功后,本質上就成了一種靜態(tài)神經(jīng)網(wǎng)絡模型,它就能應用在數(shù)以百萬計的設備上用于推理,在CPU、GPU甚至是DSP上運行。這個階段可以稱為“推理階段”。

Gary Sims指出,“推理階段”的難度要低于“訓練階段”,而這正是NPU發(fā)揮專長的地方。

所以,華為麒麟970最大的不同是,專門設置了NPU硬件芯片,它在處理靜態(tài)神經(jīng)網(wǎng)絡模型方面有得天獨厚的優(yōu)勢,不僅更快,還更有效率。事實上,NPU甚至能以17-33fps實時處理智能手機攝像頭拍攝的“直播”視頻。

從架構來看,麒麟970像是一臺“發(fā)電站”,內置8顆CPU和12顆GPU,另有移動網(wǎng)絡連接以及多媒體處理模塊,晶體管規(guī)模達到了史無前例的55億顆。據(jù)華為透露,NPU大約內含1.5億晶體管,不到整個芯片的3%。

這對于一款移動處理器來說尤為重要。首先,NPU的加入不會明顯增大處理器的尺寸、成本,這就意味著,NPU不僅能放入旗艦手機,一些中端手機也能適用。在未來5年,NPU將對Soc設計產(chǎn)生深遠影響。

其次是功耗和效率。NPU并非“電老虎”會犧牲手機的續(xù)航,相反它能高效的幫CPU承擔大量推理運算的任務,反而能節(jié)省不少功耗。

在最后的總結中,Gary Sims表示,如果華為能吸引更多第三方App開發(fā)者使用NPU,其前景不可限量。想象一下,當App在使用圖像、聲音、語音識別的時候,全部都能本地處理,不再需要網(wǎng)絡連接或者云服務,App的使用體驗將大大提升和加強。

試想,一名游客直接通過相機App就能認出當?shù)氐貥?,App能智能識別你的食物并給出相應的卡路里熟知、提醒食物過敏......

你認為,NPU會像當年FPU之于CPU一樣,成為移動Soc芯片的標準嗎?不妨在評論中發(fā)表自己的看法。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 神經(jīng)網(wǎng)絡

    關注

    42

    文章

    4838

    瀏覽量

    107750
  • 機器學習
    +關注

    關注

    66

    文章

    8553

    瀏覽量

    136928
  • 麒麟970
    +關注

    關注

    10

    文章

    264

    瀏覽量

    64218

原文標題:外媒:終于看懂Kirin 970的NPU

文章出處:【微信號:mcuworld,微信公眾號:嵌入式資訊精選】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    【新品發(fā)布】艾為重磅發(fā)布端側AI高性能NPU語音芯片,打造智能語音體驗新標桿

    數(shù)模龍頭艾為電子全新推出高性能NPU神經(jīng)網(wǎng)絡智能語音處理芯片:AWA89601,集成音頻專用NPU神經(jīng)網(wǎng)絡
    的頭像 發(fā)表于 01-07 18:33 ?361次閱讀
    【新品發(fā)布】艾為重磅發(fā)布端側AI高性能<b class='flag-5'>NPU</b>語音芯片,打造智能語音體驗新標桿

    神經(jīng)網(wǎng)絡的初步認識

    日常生活中的智能應用都離不開深度學習,而深度學習則依賴于神經(jīng)網(wǎng)絡的實現(xiàn)。什么是神經(jīng)網(wǎng)絡神經(jīng)網(wǎng)絡的核心思想是模仿生物神經(jīng)系統(tǒng)的結構,特別是大腦中神經(jīng)
    的頭像 發(fā)表于 12-17 15:05 ?323次閱讀
    <b class='flag-5'>神經(jīng)網(wǎng)絡</b>的初步認識

    NMSIS神經(jīng)網(wǎng)絡庫使用介紹

    NMSIS NN 軟件庫是一組高效的神經(jīng)網(wǎng)絡內核,旨在最大限度地提高 Nuclei N 處理器內核上的神經(jīng)網(wǎng)絡的性能并最??大限度地減少其內存占用。 該庫分為多個功能,每個功能涵蓋特定類別
    發(fā)表于 10-29 06:08

    在Ubuntu20.04系統(tǒng)中訓練神經(jīng)網(wǎng)絡模型的一些經(jīng)驗

    本帖欲分享在Ubuntu20.04系統(tǒng)中訓練神經(jīng)網(wǎng)絡模型的一些經(jīng)驗。我們采用jupyter notebook作為開發(fā)IDE,以TensorFlow2為訓練框架,目標是訓練一個手寫數(shù)字識別的神經(jīng)網(wǎng)絡
    發(fā)表于 10-22 07:03

    CICC2033神經(jīng)網(wǎng)絡部署相關操作

    在完成神經(jīng)網(wǎng)絡量化后,需要將神經(jīng)網(wǎng)絡部署到硬件加速上。首先需要將所有權重數(shù)據(jù)以及輸入數(shù)據(jù)導入到存儲內。 在仿真環(huán)境下,可將其存于一個文件,并在 Verilog 代碼中通過 read
    發(fā)表于 10-20 08:00

    液態(tài)神經(jīng)網(wǎng)絡(LNN):時間連續(xù)性與動態(tài)適應性的神經(jīng)網(wǎng)絡

    神經(jīng)元,但卻能產(chǎn)生復雜的行為。受此啟發(fā),與傳統(tǒng)的神經(jīng)網(wǎng)絡相比,LNN旨在通過模擬大腦中神經(jīng)元之間的動態(tài)連接來處理信息,這種網(wǎng)絡能夠順序
    的頭像 發(fā)表于 09-28 10:03 ?1197次閱讀
    液態(tài)<b class='flag-5'>神經(jīng)網(wǎng)絡</b>(LNN):時間連續(xù)性與動態(tài)適應性的<b class='flag-5'>神經(jīng)網(wǎng)絡</b>

    神經(jīng)網(wǎng)絡的并行計算與加速技術

    問題。因此,并行計算與加速技術在神經(jīng)網(wǎng)絡研究和應用中變得至關重要,它們能夠顯著提升神經(jīng)網(wǎng)絡的性能和效率,滿足實際應用中對快速響應和大規(guī)模數(shù)據(jù)處理的需求。神經(jīng)網(wǎng)絡并行
    的頭像 發(fā)表于 09-17 13:31 ?1124次閱讀
    <b class='flag-5'>神經(jīng)網(wǎng)絡</b>的并行計算與加速技術

    無刷電機小波神經(jīng)網(wǎng)絡轉子位置檢測方法的研究

    摘要:論文通過對無刷電機數(shù)學模型的推導,得出轉角:與三相相電壓之間存在映射關系,因此構建了一個以三相相電壓為輸人,轉角為輸出的小波神經(jīng)網(wǎng)絡來實現(xiàn)轉角預測,并采用改進遺傳算法來訓練網(wǎng)絡結構與參數(shù),借助
    發(fā)表于 06-25 13:06

    神經(jīng)網(wǎng)絡專家系統(tǒng)在電機故障診斷中的應用

    摘要:針對傳統(tǒng)專家系統(tǒng)不能進行自學習、自適應的問題,本文提出了基于種經(jīng)網(wǎng)絡專家系統(tǒng)的并步電機故障診斷方法。本文將小波神經(jīng)網(wǎng)絡和專家系統(tǒng)相結合,充分發(fā)揮了二者故障診斷的優(yōu)點,很大程度上降低了對電機
    發(fā)表于 06-16 22:09

    神經(jīng)網(wǎng)絡RAS在異步電機轉速估計中的仿真研究

    眾多方法中,由于其結構簡單,穩(wěn)定性好廣泛受到人們的重視,且已被用于產(chǎn)品開發(fā)。但是MRAS仍存在在低速區(qū)速度估計精度下降和對電動機參數(shù)變化非常敏感的問題。本文利用神經(jīng)網(wǎng)絡的特點,使估計更為簡單、快速
    發(fā)表于 06-16 21:54

    基于FPGA搭建神經(jīng)網(wǎng)絡的步驟解析

    本文的目的是在一個神經(jīng)網(wǎng)絡已經(jīng)通過python或者MATLAB訓練好的神經(jīng)網(wǎng)絡模型,將訓練好的模型的權重和偏置文件以TXT文件格式導出,然后通過python程序將txt文件轉化為coe文件,(coe
    的頭像 發(fā)表于 06-03 15:51 ?1194次閱讀
    基于FPGA搭建<b class='flag-5'>神經(jīng)網(wǎng)絡</b>的步驟解析

    開售RK3576 高性能人工智能主板

    ZYSJ-2476B 高性能智能主板,采用瑞芯微 RK3576 高性能 AI 處理器神經(jīng)網(wǎng)絡處理器 NPU, Android 14.0/debian11/ubuntu20.04 操
    發(fā)表于 04-23 10:55

    請問什么是“循環(huán)”PI 控制?

    您好 Daniel,amclib 文檔中提到了“遞歸”PI 控制形式,但似乎該行業(yè)的術語與基于神經(jīng)網(wǎng)絡的 PID 有關。我懷疑 AMClib 是這種情況。您能否解釋一下 amclib 中 PI 控制的“標準遞歸形式”
    發(fā)表于 04-03 07:05

    【「芯片通識課:一本書讀懂芯片技術」閱讀體驗】從deepseek看今天芯片發(fā)展

    的: 神經(jīng)網(wǎng)絡處理器NPU)是一種模仿人腦神經(jīng)網(wǎng)絡的電路系統(tǒng),是實現(xiàn)人工智能中神經(jīng)網(wǎng)絡計算的專用處理器
    發(fā)表于 04-02 17:25

    神經(jīng)網(wǎng)絡壓縮框架 (NNCF) 中的過濾器修剪統(tǒng)計數(shù)據(jù)怎么查看?

    無法觀察神經(jīng)網(wǎng)絡壓縮框架 (NNCF) 中的過濾器修剪統(tǒng)計數(shù)據(jù)
    發(fā)表于 03-06 07:10