91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

基于動態(tài)編譯(Just-in-Time)的全新深度學(xué)習(xí)框架

電子設(shè)計 ? 來源:風(fēng)君子 ? 作者:風(fēng)君子 ? 2020-11-25 11:08 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

據(jù)官方消息,清華大學(xué)計算機系圖形實驗室宣布開源一個全新的深度學(xué)習(xí)框架:Jittor,中文名計圖。

Jittor 是一個采用元算子表達(dá)神經(jīng)網(wǎng)絡(luò)計算單元、完全基于動態(tài)編譯(Just-in-Time)的深度學(xué)習(xí)框架。[1]

據(jù)介紹,Jittor 內(nèi)部使用創(chuàng)新的元算子和統(tǒng)一計算圖的深度學(xué)習(xí)框架。和 Numpy 相比,元算子在保證易用性的同時,能夠?qū)崿F(xiàn)更復(fù)雜、更高效的操作。而統(tǒng)一計算圖則是融合了靜態(tài)計算圖和動態(tài)計算圖的諸多優(yōu)點,在易于使用的同時,提供高性能的優(yōu)化?;谠阕娱_發(fā)的深度學(xué)習(xí)模型,可以被計圖實時自動優(yōu)化并且運行 CPUGPU 等指定的硬件上。

Jittor 特性

Jittor 是基于易用、可定制、實現(xiàn)與優(yōu)化分離、即時的理念設(shè)計的。用戶只需要數(shù)行代碼,就可定義新的算子和模型,且所有的代碼都是即時編譯運行。

在 Jittor 上,多個元算子之間可以相互融合,成為更加復(fù)雜的算子,進(jìn)一步構(gòu)成神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)應(yīng)用。

支持計算任意高階導(dǎo)數(shù)。元算子在 Jittor 上反向傳播后仍然是元算子,因此,在深度學(xué)習(xí)開發(fā)過程中,你不用算子的反向傳播而重復(fù)開發(fā)。同時,還可以使用統(tǒng)一的優(yōu)化策略。

使用 Jittor 內(nèi)置的元算子編譯器,用戶可以直接將通過元算子編寫的 Python 代碼動態(tài)編譯成更高效的 C++ 代碼。

Jittor 能夠自動優(yōu)化動態(tài)編譯的代碼。其內(nèi)置的優(yōu)化編譯遍(complier pass)兼容 LLVM,可以根據(jù)設(shè)備進(jìn)行自動優(yōu)化,生成的底層算子對計算設(shè)備非常友好。

Jittor 統(tǒng)一管理 GPU 和 CPU 的內(nèi)存。當(dāng)深度學(xué)習(xí)耗盡 GPU 內(nèi)存資源時,將用 CPU 內(nèi)存彌補。

Jittor 同時提供同步接口和異步接口,用戶可以同時享受同步接口的易用性和異步接口的高效性。

使用輔助轉(zhuǎn)換腳本,PyTorch 代碼可以直接轉(zhuǎn)換成 Jittor 模型。在參數(shù)保存和數(shù)據(jù)傳輸上,Jittor使用和 PyTorch 一樣的 Numpy+pickle 協(xié)議,二者的模型可以相互加載和調(diào)用。

性能超越 Pytorch

雖然這是清華大學(xué)第一次發(fā)布開源機器學(xué)習(xí)框架,但與國際主流平臺相比,Jittor 豪不遜色。 目前 ResNet、VGG、SSD、DeepLab、LSGAN 等多個網(wǎng)絡(luò)模型已經(jīng)在 Jittor 平臺實現(xiàn),可供用戶使用。與同類型框架相比,Jittor 在收斂精度一致情況下,推理速度取得了 10%-50% 的性能提升 。

目前,Jittor 得到了國家自然科學(xué)基金項目、北京信息科學(xué)與技術(shù)國家研究中心團隊項目和清華-騰訊聯(lián)合實驗室項目的資助和支持。

開源超級玩家

開源,特別是人工智能領(lǐng)域的開源,逐漸成為綜合實力的象征。清華在這方面有著獨到的優(yōu)勢。

首先,是在人工智能領(lǐng)域的學(xué)術(shù)傳承。2019 年,清華人工智能研究院動作頻頻,在張鈸院士的帶領(lǐng)下,4 月成立聽覺智能研究中心,由鄭方教授擔(dān)任主任,5 月成立基礎(chǔ)理論研究中心,朱軍任主任,在基礎(chǔ)算法、AI 框架、AI 應(yīng)用、數(shù)據(jù)資源等方面早已布好基礎(chǔ)。

第一代院士打好基礎(chǔ),第二代老師形成了中堅力量。此次驚艷推出的計圖(Jittor),牽頭人就是清華大學(xué)計算機系的胡事民教授,1969 年生人,正屬于中堅,而開發(fā)團隊的主體,正是他帶領(lǐng)的圖形學(xué)實驗室的一批博士生。今天出世的計圖更不免讓人想到當(dāng)年的清華畢業(yè)生賈揚清,他在加州大學(xué)伯克利分校攻讀博士期間創(chuàng)建了 Caffe 項目。

清華大學(xué)自然語言處理實驗室(THUNLP)也有一個知名的開源項目,叫 OpenNRE。[2] 這是一個在自然語言處理里進(jìn)行關(guān)系提取的開源框架,可以用于擴展知識圖譜,是推薦系統(tǒng)、搜索引擎、問題解答這些應(yīng)用的基礎(chǔ)和關(guān)鍵技術(shù)。

實驗室由孫茂松教授領(lǐng)銜,帶出了一批骨干老師,以及本碩博的尖子。THUNLP 在 GitHub 上得到的 star,已經(jīng)跟全球最強的斯坦福 NLP 小組的 star 差不多了。

由此帶出的第三代學(xué)生梯隊也人才濟濟。清華姚班自不必說,去年以本科人才培養(yǎng)著名的姚期智教授又開設(shè)智班,重點培養(yǎng)人工智能領(lǐng)域的后備軍。

姚班畢業(yè),目前在 MIT 就讀的博士生胡淵鳴,設(shè)計、實現(xiàn)了 Taichi 編程語言及其優(yōu)化編譯器,后生可畏。[3]

另外,清華和企業(yè)以實驗室形式的合作,碩果累累,吸引了像張亞勤、沈向洋這樣的大師級科學(xué)家加入。

比如,清華和微軟研究院合作了 Convlab 開源端到端對話系統(tǒng) [4],和美團合作了視頻動作分析的開源數(shù)據(jù)集 COIN [5]。

去年,清華-伯克利深圳學(xué)院更是成立了“RISC-V 國際開源實驗室”,直接將圖靈獎得主、最早提出“精簡指令集”(RISC)體系的大衛(wèi)·帕特森(David Patterson)引入,抓住了開源和源創(chuàng)的源頭,有可能在芯片領(lǐng)域形成新的開源 CPU 生態(tài)體系,打造國家重器。

編輯:hfy
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 神經(jīng)網(wǎng)絡(luò)

    關(guān)注

    42

    文章

    4838

    瀏覽量

    107797
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    5194

    瀏覽量

    135467
  • 人工智能
    +關(guān)注

    關(guān)注

    1817

    文章

    50098

    瀏覽量

    265414
  • 深度學(xué)習(xí)
    +關(guān)注

    關(guān)注

    73

    文章

    5599

    瀏覽量

    124398
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    恩智浦推出全新eIQ Agentic AI框架

    恩智浦半導(dǎo)體宣布推出全新eIQ Agentic AI框架,進(jìn)一步鞏固其在安全實時邊緣AI領(lǐng)域的領(lǐng)導(dǎo)地位。該工具支持在邊緣設(shè)備上直接實現(xiàn)自主智能體功能,助力資深與新手設(shè)備開發(fā)人員簡化并加速智能體AI
    的頭像 發(fā)表于 01-13 11:15 ?1315次閱讀

    機器學(xué)習(xí)深度學(xué)習(xí)中需避免的 7 個常見錯誤與局限性

    無論你是剛?cè)腴T還是已經(jīng)從事人工智能模型相關(guān)工作一段時間,機器學(xué)習(xí)深度學(xué)習(xí)中都存在一些我們需要時刻關(guān)注并銘記的常見錯誤。如果對這些錯誤置之不理,日后可能會引發(fā)諸多麻煩!只要我們密切關(guān)注數(shù)據(jù)、模型架構(gòu)
    的頭像 發(fā)表于 01-07 15:37 ?192次閱讀
    機器<b class='flag-5'>學(xué)習(xí)</b>和<b class='flag-5'>深度</b><b class='flag-5'>學(xué)習(xí)</b>中需避免的 7 個常見錯誤與局限性

    【團購】獨家全套珍藏!龍哥LabVIEW視覺深度學(xué)習(xí)實戰(zhàn)課(11大系列課程,共5000+分鐘)

    (包含資深工程師) 1)技術(shù)盲區(qū)突破 傳統(tǒng)視覺進(jìn)階:九點標(biāo)定誤差補償、手眼協(xié)調(diào)動態(tài)精度優(yōu)化等高級技巧,提升系統(tǒng)穩(wěn)定性 深度學(xué)習(xí)落地:模型輕量化部署(YOLOv8篇)、LabVIEW與GPU協(xié)同訓(xùn)練,解決算
    發(fā)表于 12-04 09:28

    【團購】獨家全套珍藏!龍哥LabVIEW視覺深度學(xué)習(xí)實戰(zhàn)課程(11大系列課程,共5000+分鐘)

    (包含資深工程師) 1)技術(shù)盲區(qū)突破 傳統(tǒng)視覺進(jìn)階:九點標(biāo)定誤差補償、手眼協(xié)調(diào)動態(tài)精度優(yōu)化等高級技巧,提升系統(tǒng)穩(wěn)定性 深度學(xué)習(xí)落地:模型輕量化部署(YOLOv8篇)、LabVIEW與GPU協(xié)同訓(xùn)練,解決算
    發(fā)表于 12-03 13:50

    新思科技攜手微軟、英偉達(dá)發(fā)布可實時優(yōu)化動態(tài)制造流程框架

    新思科技(納斯達(dá)克代碼:SNPS)近日攜手技術(shù)合作伙伴在微軟 Ignite 大會上發(fā)布了一套仿真技術(shù)驅(qū)動的可實時優(yōu)化動態(tài)制造流程框架。該框架已經(jīng)被全球領(lǐng)先的灌裝包裝系統(tǒng)集成商 Krones 率先采用,構(gòu)建了物理精確的虛擬裝配線,
    的頭像 發(fā)表于 11-30 09:53 ?531次閱讀

    如何深度學(xué)習(xí)機器視覺的應(yīng)用場景

    深度學(xué)習(xí)視覺應(yīng)用場景大全 工業(yè)制造領(lǐng)域 復(fù)雜缺陷檢測:處理傳統(tǒng)算法難以描述的非標(biāo)準(zhǔn)化缺陷模式 非標(biāo)產(chǎn)品分類:對形狀、顏色、紋理多變的產(chǎn)品進(jìn)行智能分類 外觀質(zhì)量評估:基于學(xué)習(xí)的外觀質(zhì)量標(biāo)準(zhǔn)判定 精密
    的頭像 發(fā)表于 11-27 10:19 ?221次閱讀

    如何在機器視覺中部署深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)

    圖 1:基于深度學(xué)習(xí)的目標(biāo)檢測可定位已訓(xùn)練的目標(biāo)類別,并通過矩形框(邊界框)對其進(jìn)行標(biāo)識。 在討論人工智能(AI)或深度學(xué)習(xí)時,經(jīng)常會出現(xiàn)“神經(jīng)網(wǎng)絡(luò)”、“黑箱”、“標(biāo)注”等術(shù)語。這些概
    的頭像 發(fā)表于 09-10 17:38 ?902次閱讀
    如何在機器視覺中部署<b class='flag-5'>深度</b><b class='flag-5'>學(xué)習(xí)</b>神經(jīng)網(wǎng)絡(luò)

    摩爾線程發(fā)布Torch-MUSA v2.1.1版本

    近日,摩爾線程發(fā)布其面向PyTorch深度學(xué)習(xí)框架的MUSA擴展庫——Torch-MUSA v2.1.1。該版本在v2.1.0的基礎(chǔ)上,進(jìn)一步擴展了對大規(guī)模深度
    的頭像 發(fā)表于 09-10 11:02 ?1038次閱讀

    深度學(xué)習(xí)對工業(yè)物聯(lián)網(wǎng)有哪些幫助

    深度學(xué)習(xí)作為人工智能的核心分支,通過模擬人腦神經(jīng)網(wǎng)絡(luò)的層級結(jié)構(gòu),能夠自動從海量工業(yè)數(shù)據(jù)中提取復(fù)雜特征,為工業(yè)物聯(lián)網(wǎng)(IIoT)提供了從數(shù)據(jù)感知到智能決策的全鏈路升級能力。以下從技術(shù)賦能、場景突破
    的頭像 發(fā)表于 08-20 14:56 ?1028次閱讀

    一種適用于動態(tài)環(huán)境的自適應(yīng)先驗場景-對象SLAM框架

    由于傳統(tǒng)視覺SLAM在動態(tài)場景中容易會出現(xiàn)嚴(yán)重的定位漂移,本文提出了一種新穎的基于場景-對象的可靠性評估框架,該框架通過當(dāng)前幀質(zhì)量指標(biāo)以及相對于可靠參考幀的場景變化,全面評估SLAM的穩(wěn)定性。
    的頭像 發(fā)表于 08-19 14:17 ?877次閱讀
    一種適用于<b class='flag-5'>動態(tài)</b>環(huán)境的自適應(yīng)先驗場景-對象SLAM<b class='flag-5'>框架</b>

    自動駕駛中Transformer大模型會取代深度學(xué)習(xí)嗎?

    [首發(fā)于智駕最前沿微信公眾號]近年來,隨著ChatGPT、Claude、文心一言等大語言模型在生成文本、對話交互等領(lǐng)域的驚艷表現(xiàn),“Transformer架構(gòu)是否正在取代傳統(tǒng)深度學(xué)習(xí)”這一話題一直被
    的頭像 發(fā)表于 08-13 09:15 ?4185次閱讀
    自動駕駛中Transformer大模型會取代<b class='flag-5'>深度</b><b class='flag-5'>學(xué)習(xí)</b>嗎?

    思嵐科技AI工業(yè)機器人開放底盤Phoebus P350全新發(fā)布:深度學(xué)習(xí)導(dǎo)航+300KG負(fù)載

    工業(yè)4.0時代,智能搬運的“底盤力”決定效率天花板。 SLAMTEC全新推出 Phoebus P350工業(yè)級機器人底盤 ,以 “開放AI架構(gòu)+深度學(xué)習(xí)導(dǎo)航” 為核心,融合300KG超強負(fù)載、60cm
    的頭像 發(fā)表于 05-12 11:33 ?1433次閱讀
    思嵐科技AI工業(yè)機器人開放底盤Phoebus P350<b class='flag-5'>全新</b>發(fā)布:<b class='flag-5'>深度</b><b class='flag-5'>學(xué)習(xí)</b>導(dǎo)航+300KG負(fù)載

    上海光機所在基于深度時空先驗的動態(tài)定量相位成像研究方面取得進(jìn)展

    圖1 (a) 非干涉動態(tài)定量相位成像示意圖。(b) 僅利用空間先驗的模型驅(qū)動深度學(xué)習(xí)。(c) 引入時空先驗的模型驅(qū)動學(xué)習(xí)。(d) 分別使用 STeP 和空間先驗從視頻序列重建相位的仿真
    的頭像 發(fā)表于 04-27 06:23 ?660次閱讀
    上海光機所在基于<b class='flag-5'>深度</b>時空先驗的<b class='flag-5'>動態(tài)</b>定量相位成像研究方面取得進(jìn)展

    百度飛槳框架3.0正式版發(fā)布

    大模型訓(xùn)練成本高?推理效率低?硬件適配難? 4月1日,百度發(fā)布 飛槳框架3.0正式版 !五大特性專為大模型設(shè)計。 作為大模型時代的Infra“基礎(chǔ)設(shè)施”,深度學(xué)習(xí)框架的重要性愈發(fā)凸顯,
    的頭像 發(fā)表于 04-02 19:03 ?1198次閱讀
    百度飛槳<b class='flag-5'>框架</b>3.0正式版發(fā)布

    嵌入式AI技術(shù)之深度學(xué)習(xí):數(shù)據(jù)樣本預(yù)處理過程中使用合適的特征變換對深度學(xué)習(xí)的意義

    ? 作者:蘇勇Andrew 使用神經(jīng)網(wǎng)絡(luò)實現(xiàn)機器學(xué)習(xí),網(wǎng)絡(luò)的每個層都將對輸入的數(shù)據(jù)做一次抽象,多層神經(jīng)網(wǎng)絡(luò)構(gòu)成深度學(xué)習(xí)框架,可以深度理解數(shù)
    的頭像 發(fā)表于 04-02 18:21 ?1518次閱讀