91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

淺談GPU: 衡量計(jì)算效能的正確姿勢(1)

Linux閱碼場 ? 來源:面包板社區(qū) ? 作者:Linux閱碼場 ? 2021-04-16 11:05 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

琢磨了好幾天,也不知道公眾號(hào)第一篇正式文章應(yīng)該怎么寫。現(xiàn)在很后悔在朋友圈高調(diào)公開公眾號(hào),還竟敢宣稱有15年行業(yè)經(jīng)驗(yàn),大家不要信以為真,其實(shí)不過是一年經(jīng)驗(yàn)重復(fù)了十幾年而已。連知乎的小朋友都知道問問題的正確姿勢,我真是有些汗顏。

言歸正狀,萬事開頭難,現(xiàn)在騎虎難下,也只好勉力為之。在這里想先介紹些今后文章經(jīng)常會(huì)涉及的一些指標(biāo)概念,希望能達(dá)成基本的共識(shí),到時(shí)候交流起來會(huì)方便些。

Lateny和Throughput

1 延遲(latency),完成一個(gè)任務(wù)所需要的時(shí)間。

2.吞吐量(throughput),單位時(shí)間完成的任務(wù)量。

體系結(jié)構(gòu)大神David.A.Patterson在他的著作《計(jì)算機(jī)組成和設(shè)計(jì)》用洗衣過程來做譬喻。洗衣過程由清洗,烘干,折疊,收納四個(gè)環(huán)節(jié)組成,每個(gè)環(huán)節(jié)耗時(shí)30分鐘,所以每次洗衣任務(wù)的latency是2個(gè)小時(shí),沒有優(yōu)化以前,8個(gè)小時(shí)的完成4次洗衣任務(wù),所以throughput只有0.5。

f85aacca-9e22-11eb-8b86-12bb97331649.png

經(jīng)過流水線改造以后,效率得到改善,雖然每次洗衣還是花費(fèi)2小時(shí),但單位時(shí)間完成的任務(wù)量大大提升,4次洗衣任務(wù)只花了3.5個(gè)小時(shí)。

f8699bae-9e22-11eb-8b86-12bb97331649.png

我們可以把生活常識(shí)映射到處理器的流水線(Pipeline)設(shè)計(jì),處理器的指令Pipeline通過實(shí)現(xiàn)指令級(jí)的并行(Instruction Level Parallelism)來提高throughput。這種ILP的優(yōu)化對(duì)碼農(nóng)們就是免費(fèi)的午餐,躺著程序性能就上去了。

f877aef6-9e22-11eb-8b86-12bb97331649.png

另外,如下圖,我們也可以通過多核CPU或者內(nèi)置很多計(jì)算單元的GPU來提高程序整體的性能(throughput),這種優(yōu)化屬于線程級(jí)并行(Thread Level Parallelism)。相比ILP,TLP對(duì)碼農(nóng)不太友好,不再供應(yīng)免費(fèi)的午餐,我們需要編寫多線程程序,甚至通過專門的接口(CUDA/OpenCL)讓CPU/GPU忙碌起來,才能得到性能的提升。

第一篇先寫到這兒了,再長就沒人看了,接下來會(huì)介紹其它幾個(gè)重要概念。
編輯:lyn

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 處理器
    +關(guān)注

    關(guān)注

    68

    文章

    20255

    瀏覽量

    252321
  • cpu
    cpu
    +關(guān)注

    關(guān)注

    68

    文章

    11279

    瀏覽量

    225015
  • 吞吐量
    +關(guān)注

    關(guān)注

    0

    文章

    49

    瀏覽量

    12678
  • 延遲
    +關(guān)注

    關(guān)注

    1

    文章

    74

    瀏覽量

    13959

原文標(biāo)題:GPU: 衡量計(jì)算效能的正確姿勢(1)

文章出處:【微信號(hào):LinuxDev,微信公眾號(hào):Linux閱碼場】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    STPMC1可編程多相電能計(jì)算器IC:設(shè)計(jì)與應(yīng)用詳解

    ,我們就來深入探討一下STPMC1的特性、功能、工作原理以及在實(shí)際應(yīng)用中的設(shè)計(jì)要點(diǎn)。 文件下載: STPMC1BTR.pdf 一、STPMC1的核心特性 1.1 多相支持與能量計(jì)算 S
    的頭像 發(fā)表于 03-02 16:55 ?475次閱讀

    炎核開源開放平臺(tái)上架推出OpenSparseBlas高性能稀疏計(jì)算

    在科學(xué)計(jì)算與工程仿真領(lǐng)域,高效處理大規(guī)模稀疏矩陣運(yùn)算是提升整體計(jì)算效能的關(guān)鍵。為此,我們?cè)谘缀碎_源開放平臺(tái)上架推出 OpenSparseBlas——一個(gè)專為稀疏矩陣/向量計(jì)算而打造的高
    的頭像 發(fā)表于 12-15 15:18 ?639次閱讀

    汽車中的GPU是如何使用的?

    。我們從GPU在汽車中的應(yīng)用場景及其具體需求出發(fā),深入探討了GPU對(duì)汽車行業(yè)發(fā)展的影響,并對(duì)未來趨勢提出了關(guān)鍵判斷。1、GPU計(jì)算在汽車中的
    的頭像 發(fā)表于 12-03 14:45 ?9579次閱讀
    汽車中的<b class='flag-5'>GPU</b>是如何使用的?

    絕緣子漏電起痕試驗(yàn)儀泄漏電流信號(hào)的小波變換分析及電弧能量計(jì)算

    手段;而基于該分析結(jié)果的電弧能量計(jì)算,則能量化電弧對(duì)絕緣子性能的影響,兩者共同為試驗(yàn)結(jié)果的精準(zhǔn)解讀與絕緣子耐痕性能評(píng)估提供科學(xué)依據(jù)。? 泄漏電流信號(hào)的小波變換分析,核心在于對(duì)信號(hào)的“分層解析與特征提取”。試
    的頭像 發(fā)表于 10-15 09:43 ?375次閱讀
    絕緣子漏電起痕試驗(yàn)儀泄漏電流信號(hào)的小波變換分析及電弧能<b class='flag-5'>量計(jì)算</b>

    aicube的n卡gpu索引該如何添加?

    請(qǐng)問有人知道aicube怎樣才能讀取n卡的gpu索引呢,我已經(jīng)安裝了cuda和cudnn,在全局的py里添加了torch,能夠調(diào)用gpu,當(dāng)還是只能看到默認(rèn)的gpu0,顯示不了gpu1
    發(fā)表于 07-25 08:18

    如何選擇合適的電池電量計(jì)

    最優(yōu)的電池性能依賴于驅(qū)動(dòng)電量計(jì)算法的高精度的電池模型?;ㄙM(fèi)大量時(shí)間進(jìn)行定制特征分析能夠獲得高精度電池性能、最大程度減小電池電量的(SOC)誤差,以及正確預(yù)測電池何時(shí)接近空電量。
    發(fā)表于 07-10 14:23 ?0次下載

    如何計(jì)算孔板流量計(jì)和平衡流量計(jì)的流量?計(jì)算公式一樣嗎?

    平衡流量計(jì)與孔板流量計(jì)作為差壓式流量計(jì)的典型代表,雖均基于壓力差與流量的數(shù)學(xué)關(guān)系進(jìn)行計(jì)算,但是平衡流量計(jì)
    的頭像 發(fā)表于 07-09 13:54 ?881次閱讀
    如何<b class='flag-5'>計(jì)算</b>孔板流<b class='flag-5'>量計(jì)</b>和平衡流<b class='flag-5'>量計(jì)</b>的流量?<b class='flag-5'>計(jì)算</b>公式一樣嗎?

    GPU架構(gòu)深度解析

    GPU架構(gòu)深度解析從圖形處理到通用計(jì)算的進(jìn)化之路圖形處理單元(GPU),作為現(xiàn)代計(jì)算機(jī)中不可或缺的一部分,已經(jīng)從最初的圖形渲染專用處理器,發(fā)展成為強(qiáng)大的并行
    的頭像 發(fā)表于 05-30 10:36 ?1856次閱讀
    <b class='flag-5'>GPU</b>架構(gòu)深度解析

    Imagination與澎峰科技攜手推動(dòng)GPU+AI解決方案,共拓計(jì)算生態(tài)

    近日, Imagination Technologies 與國內(nèi)領(lǐng)先的異構(gòu)計(jì)算軟件與智算混合云服務(wù)提供商 澎峰科技 ( PerfXLab )正式簽署合作備忘錄( MoU ),圍繞 GPU 與 AI
    發(fā)表于 05-21 09:40 ?1220次閱讀

    變壓器速查速算手冊(cè)(完整版)

    資料介紹本文較詳細(xì)而系統(tǒng)地介紹了變壓器的計(jì)算公式和計(jì)算方法。內(nèi)容包括:變壓器基本計(jì)算及試驗(yàn)計(jì)算,變壓器運(yùn)行和節(jié)能計(jì)算,變壓器容
    發(fā)表于 04-30 17:40

    常見傳動(dòng)機(jī)構(gòu)負(fù)載慣量計(jì)算方法及實(shí)例

    傳動(dòng)機(jī)構(gòu)負(fù)載慣量計(jì)算方法 1. 絲桿傳動(dòng)機(jī)構(gòu) 絲桿傳動(dòng)機(jī)構(gòu)廣泛應(yīng)用于精密定位系統(tǒng)中。其負(fù)載慣量的計(jì)算需要考慮負(fù)載質(zhì)量、絲桿導(dǎo)程、絲桿直徑以及摩擦系數(shù)等因素。 假設(shè)負(fù)載質(zhì)量為m,絲桿導(dǎo)程為Pb,絲桿直徑為Db,負(fù)載移動(dòng)速度為
    的頭像 發(fā)表于 04-23 17:38 ?4623次閱讀
    常見傳動(dòng)機(jī)構(gòu)負(fù)載慣<b class='flag-5'>量計(jì)算</b>方法及實(shí)例

    淺談電磁流量計(jì)的常見故障及排除方法

    電磁流量計(jì)作為常用的流量測量儀表,在使用過程中可能會(huì)遇到各種故障。以下是對(duì)電磁流量計(jì)常見故障及排除方法的淺談: 一、儀表顯示最小或無顯示 當(dāng)電磁流量計(jì)顯示最小或無顯示時(shí),通常意味著傳感
    的頭像 發(fā)表于 04-20 17:56 ?1974次閱讀

    如何選擇合適的水位流量計(jì)算公式?

    在水利工程中,量水堰計(jì)通過測量堰上水頭(h)計(jì)算流量(Q),但不同堰型的流量公式差異顯著。錯(cuò)誤選擇公式可能導(dǎo)致流量估算偏差高達(dá)30%以上。南京峟思工程儀器將給大家系統(tǒng)解析直角三角堰、矩形堰、梯形堰
    的頭像 發(fā)表于 04-02 16:32 ?1573次閱讀
    如何選擇合適的水位流<b class='flag-5'>量計(jì)算</b>公式?

    電容電量計(jì)算

    發(fā)表于 03-13 10:32

    電容電量計(jì)算

    發(fā)表于 03-11 11:41