91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

如何優(yōu)化AI SoC及其上面運(yùn)行的軟件

半導(dǎo)體芯科技SiSC ? 來源:半導(dǎo)體芯科技SiSC ? 作者:半導(dǎo)體芯科技SiS ? 2022-06-15 14:35 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

人工智能機(jī)器學(xué)習(xí)應(yīng)用數(shù)據(jù)處理的強(qiáng)勁需求下,大規(guī)模并行計(jì)算迅速興起,導(dǎo)致芯片復(fù)雜性呈現(xiàn)爆炸式增長(zhǎng)。這種復(fù)雜性體現(xiàn)在 Cerebras 晶圓級(jí)引擎等設(shè)計(jì)中,該設(shè)計(jì)是一種平鋪多核、多晶片設(shè)計(jì),將晶體管數(shù)量增加至數(shù)萬億個(gè),擁有近百萬個(gè)計(jì)算內(nèi)核。

人工智能 (AI) SoC 的市場(chǎng)持續(xù)增長(zhǎng),競(jìng)爭(zhēng)也日趨激烈。半導(dǎo)體公司根據(jù)性能、成本和靈活性,來找到自己的定位,并不斷自我優(yōu)化,從而導(dǎo)致了新型多核架構(gòu)的爆發(fā)式增長(zhǎng)。系統(tǒng)架構(gòu)師正在嘗試不同的方法,希望可以將這種復(fù)雜性轉(zhuǎn)化為競(jìng)爭(zhēng)優(yōu)勢(shì)。

在所有復(fù)雜性來源中,有一個(gè)在多核 AI SoC 中非常重要的來源:即當(dāng)有多個(gè)線程在共享數(shù)據(jù)上并行運(yùn)行時(shí),會(huì)出現(xiàn)功能錯(cuò)誤和性能降低問題。過去,設(shè)計(jì)人員可以使用經(jīng)典的 CPU 運(yùn)行控制來調(diào)試問題,但這種方法對(duì)多核架構(gòu)并無效果。導(dǎo)致軟件問題的根本原因錯(cuò)綜復(fù)雜,包括往返時(shí)延、內(nèi)核數(shù)量、控制和數(shù)據(jù)并行、多層層次結(jié)構(gòu)和互相依賴的進(jìn)程,設(shè)計(jì)人員從中找出真正根源的機(jī)會(huì)渺茫。

另外,設(shè)計(jì)人員還需要考慮軟硬件協(xié)同優(yōu)化,這需要大量的功能分析。為了在 SoC 上部署 AI 應(yīng)用,設(shè)計(jì)人員必須編譯源代碼,以充分利用多核架構(gòu)。這通常需要充分了解 SoC 架構(gòu)的定制工具鏈。這個(gè)過程包括一個(gè)硬件和軟件優(yōu)化及測(cè)試周期,從 SOC 仿真開始,一直貫穿至第一次投片和后續(xù)器件迭代。

通過這一功能分析周期,團(tuán)隊(duì)能夠了解以下內(nèi)容:

· 數(shù)據(jù)共享的效率;

· 片上網(wǎng)絡(luò) (NoC) 是否超載或不平衡;

· 如何在不影響代碼執(zhí)行的情況下評(píng)估應(yīng)用性能;

· 如何優(yōu)化內(nèi)存控制器配置文件以提升數(shù)據(jù)處理能力;

· 如何關(guān)聯(lián)整個(gè) SoC 中的事件;

要做到這一點(diǎn),我們需要一種全新的方法來優(yōu)化 AI SoC 及其上面運(yùn)行的軟件。要將高質(zhì)量的 AI SoC 及時(shí)推向市場(chǎng)并在完成部署后保持性能,必須要進(jìn)行系統(tǒng)范圍的功能分析。系統(tǒng)范圍功能分析的部分功能包括:

· 深入洞察子系統(tǒng)或組件 ;

· 對(duì)整個(gè)系統(tǒng)從啟動(dòng)開始的準(zhǔn)確、連貫的全景圖;

· 事物感知(Transaction-aware) 的互連監(jiān)控和統(tǒng)計(jì)信息;

· 傳統(tǒng)的處理器運(yùn)行控制和追蹤;

· 支持所有常見的指令集和互連協(xié)議;

· 提供選擇或更改重要子系統(tǒng)的靈活性;

· 用于產(chǎn)生數(shù)據(jù)可見性的靈活強(qiáng)大的工具;

用于監(jiān)控和分析 IP 的片上基礎(chǔ)架構(gòu)和軟件提供了所有這些功能,覆蓋范圍可從仿真到部署。下圖即顯示了 SoC 功能監(jiān)控和分析的典型架構(gòu)。

接下來的圖中展示的示例是一個(gè)多核芯片配備片上網(wǎng)絡(luò) (NoC) 監(jiān)視器,可跟蹤所有 NoC 事務(wù)到循環(huán)緩沖器。由于 NoC 監(jiān)視器具有事務(wù)感知功能,可將其配置為檢測(cè)特定總線條件,例如導(dǎo)致事務(wù)持續(xù)時(shí)間超過特定閾值(按周期數(shù)計(jì)算)的死鎖。當(dāng)超過閾值時(shí),NoC 監(jiān)視器可以輸出死鎖事務(wù)以及之前事務(wù)的詳細(xì)信息,以便對(duì)問題進(jìn)行診斷。

同一個(gè) NoC 監(jiān)視器也可配置為在檢測(cè)到相同死鎖條件時(shí)——例如通過跟蹤硬件加速器行為的狀態(tài)監(jiān)視器模塊——使用嵌入式分析消息基礎(chǔ)設(shè)施的交叉觸發(fā)功能,在系統(tǒng)中的其他位置觸發(fā)跟蹤。

了解實(shí)施有效的系統(tǒng)驗(yàn)證和優(yōu)化環(huán)境時(shí)涉及的問題,是成功交付多核 SoC 的關(guān)鍵,與該領(lǐng)域內(nèi)的專業(yè)供應(yīng)商合作可實(shí)現(xiàn)事半功倍的效果。

審核編輯:湯梓紅
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • soc
    soc
    +關(guān)注

    關(guān)注

    40

    文章

    4581

    瀏覽量

    229422
  • AI
    AI
    +關(guān)注

    關(guān)注

    91

    文章

    40198

    瀏覽量

    301801
  • 人工智能
    +關(guān)注

    關(guān)注

    1819

    文章

    50151

    瀏覽量

    265893
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    邊緣AI算力臨界點(diǎn):深度解析176TOPS香橙派AI Station的產(chǎn)業(yè)價(jià)值

    310P芯片的底層架構(gòu),深度剖析這款產(chǎn)品的技術(shù)細(xì)節(jié)、算力門檻及其在實(shí)際產(chǎn)業(yè)落地中的真實(shí)價(jià)值。 一、176TOPS的產(chǎn)業(yè)門檻:為何這是邊緣算力的新起點(diǎn)? AI硬件的核心指標(biāo)始終是算力,但不同層級(jí)的算力決定
    發(fā)表于 03-10 14:19

    Danalto Cardina框架成功集成Qorvo UWB SoC及SDK

    定位智能軟件領(lǐng)域的先驅(qū)企業(yè)Danalto近日宣布,其Cardinal云定位引擎(CLE)已成功集成Qorvo最新推出的超寬帶(UWB)系統(tǒng)級(jí)芯片(SoC及其面向工業(yè)與企業(yè)應(yīng)用的軟件
    的頭像 發(fā)表于 03-03 09:44 ?277次閱讀

    淺談工業(yè)AI的定義和實(shí)際應(yīng)用

    工業(yè) AI 是將物理 AI 及其AI 技術(shù)應(yīng)用于工業(yè)流程優(yōu)化,通過實(shí)時(shí)工業(yè)數(shù)據(jù)和預(yù)測(cè)性分析,實(shí)現(xiàn)更高水平的自動(dòng)化和更優(yōu)決策。
    的頭像 發(fā)表于 02-05 11:16 ?708次閱讀

    使用NORDIC AI的好處

    <5 KB),可在任何 Nordic SoC/SiP 的主 CPU 上運(yùn)行,適合加速度計(jì)、IMU、PPG、溫度、電流等時(shí)序傳感器數(shù)據(jù)的 AI 任務(wù)。[Nordic Edge AI
    發(fā)表于 01-31 23:16

    嵌入式軟件單元測(cè)試中AI自動(dòng)化與人工檢查的協(xié)同機(jī)制研究:基于專業(yè)工具的實(shí)證分析

    ? ?摘要****? 本文系統(tǒng)探討嵌入式軟件相較于通用軟件在單元測(cè)試層面的特殊性,分析其對(duì)高覆蓋率、可追溯性與實(shí)時(shí)性驗(yàn)證的嚴(yán)苛需求,并以專業(yè)工具winAMS為技術(shù)載體,深入研究AI驅(qū)動(dòng)的自動(dòng)化測(cè)試在
    發(fā)表于 12-31 11:22

    瑞芯微SOC智能視覺AI處理器

    。B2版本通常在功耗、穩(wěn)定性和部分外圍接口支持上有所優(yōu)化。NPU: 集成0.8 TOPS的NPU,支持INT8/INT16混合運(yùn)算,能滿足大多數(shù)邊緣側(cè)的輕量級(jí)AI推理需求(如分類、檢測(cè)、識(shí)別)。多媒體
    發(fā)表于 12-19 13:44

    融合AI的OpenHarmony應(yīng)用軟件開發(fā):ai學(xué)習(xí)自律輔助軟件

    *附件:ai study.zip*附件:融合AI的OpenHarmony應(yīng)用軟件開發(fā):ai學(xué)習(xí)自律輔助軟件.pdf 基于開源鴻蒙編寫的
    發(fā)表于 11-12 15:38

    2025年AI 智能終端和SoC芯片解讀

    電子發(fā)燒友網(wǎng)站提供《2025年AI 智能終端和SoC芯片解讀.pptx》資料免費(fèi)下載
    發(fā)表于 09-15 16:38 ?623次下載

    使用Altera SoC FPGA提升AI信道估計(jì)效率

    開銷急劇擴(kuò)大,導(dǎo)致上行帶寬的利用率出現(xiàn)瓶頸。 ? 為應(yīng)對(duì)這一挑戰(zhàn),Altera 正依托?Agilex SoC FPGA,提供由 AI 驅(qū)動(dòng)的 CSI 壓縮解決方案。結(jié)合 Altera 的?FPGA
    的頭像 發(fā)表于 08-26 16:27 ?3670次閱讀

    超小型Neuton機(jī)器學(xué)習(xí)模型, 在任何系統(tǒng)級(jí)芯片(SoC)上解鎖邊緣人工智能應(yīng)用.

    個(gè)高度優(yōu)化、快速而準(zhǔn)確的ML 模型,你所需要的只是一個(gè)數(shù)據(jù)集。Neuton 模型可以在任何Nordic SoC運(yùn)行、Neuton 模型可以在任何Nordic SoC(如我們的旗艦產(chǎn)
    發(fā)表于 07-31 11:38

    大家都在用什么AI軟件?有沒有好用的免費(fèi)的AI軟件推薦一下?

    大家都在用什么AI軟件?有沒有好用的免費(fèi)的AI軟件推薦一下?直接發(fā)個(gè)安裝包,謝謝。比如deepseek、Chatgpt、豆包、阿里AI、百度
    發(fā)表于 07-09 18:30

    Nordic收購(gòu) Neuton.AI 關(guān)于產(chǎn)品技術(shù)的分析

    與 Nordic 的 nRF54 系列超低功耗無線 SoC 結(jié)合,使得即使是資源極為有限的設(shè)備也能高效運(yùn)行邊緣 AI。Nordic 目前正在將 Neuton 深度集成到自身開發(fā)生態(tài)中,未來會(huì)提供更多工具、固件
    發(fā)表于 06-28 14:18

    AI SoC #BK7258 AI能力和技術(shù)參數(shù)深度解讀

    BK7258芯片AI能力深度解讀 BK7258是博通集成推出的一款高集成度Wi-Fi 6+藍(lán)牙5.4低功耗音視頻SoC芯片,其AI能力通過硬件加速、算法優(yōu)化及生態(tài)整合實(shí)現(xiàn),覆蓋邊緣計(jì)算
    的頭像 發(fā)表于 06-20 09:44 ?6934次閱讀
    <b class='flag-5'>AI</b> <b class='flag-5'>SoC</b> #BK7258 <b class='flag-5'>AI</b>能力和技術(shù)參數(shù)深度解讀

    RISC-V架構(gòu)下AI融合算力及其軟件棧實(shí)踐

    面對(duì)未來大模型(LLM)、AIGC等智能化浪潮的挑戰(zhàn),進(jìn)迭時(shí)空在RISC-V方向全面布局,通過精心設(shè)計(jì)的RISC-VDSA架構(gòu)以及軟硬一體的優(yōu)化策略,將全力為未來打造高效且易用的AI算力解決方案
    的頭像 發(fā)表于 06-06 17:04 ?1488次閱讀
    RISC-V架構(gòu)下<b class='flag-5'>AI</b>融合算力<b class='flag-5'>及其</b><b class='flag-5'>軟件</b>棧實(shí)踐

    AI眼鏡的未來:SoC芯片與SD NAND的協(xié)同優(yōu)化

    AI眼鏡正以驚人的速度從概念走向現(xiàn)實(shí)。據(jù)行業(yè)預(yù)測(cè),全球AI眼鏡出貨量將在2026年突破1000萬副,2030年更將飆升至8000萬副,市場(chǎng)規(guī)模超百億美元。這一變革的背后,是兩大核心技術(shù)——MK米客方德SD NAND存儲(chǔ)芯片與紳聚高性能S
    的頭像 發(fā)表于 04-08 09:00 ?1694次閱讀
    <b class='flag-5'>AI</b>眼鏡的未來:<b class='flag-5'>SoC</b>芯片與SD NAND的協(xié)同<b class='flag-5'>優(yōu)化</b>