GTC 2023：阿里巴巴CUTLASS優(yōu)化探索推薦系統(tǒng)中的應(yīng)用
推薦系統(tǒng)簡(jiǎn)介
背景：
●場(chǎng)景多，模型計(jì)算復(fù)雜度高;
●流量大，對(duì)實(shí)時(shí)性要求高;
●占用硬件資源多，硬件成本高;
●模型結(jié)構(gòu)存在- -致性，可通過(guò)定制算子獲得加速;
以TensorFlow為backend ，算子數(shù)量多;此前，我們通過(guò)算子融合（類Faster Transformer），CUDA Graph等手段已經(jīng)取得了不錯(cuò)的性能提升;利用CUTLASS進(jìn)一步優(yōu)化Attention和MLP計(jì)算， 可進(jìn)步提升資源利用率。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
gpu
+關(guān)注
關(guān)注
28文章
5194瀏覽量
135467 -
阿里巴巴
+關(guān)注
關(guān)注
7文章
1647瀏覽量
49198 -
推薦系統(tǒng)
+關(guān)注
關(guān)注
1文章
44瀏覽量
10451 -
gtc
+關(guān)注
關(guān)注
0文章
74瀏覽量
4766
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
熱點(diǎn)推薦
榮邦佳業(yè)有阿里巴巴啦
服務(wù)，是全球首家擁有百萬(wàn)商人的商務(wù)網(wǎng)站。在全球網(wǎng)站瀏覽量排名中，穩(wěn)居國(guó)際商務(wù)及貿(mào)易類網(wǎng)站第一。而近年來(lái)，越來(lái)越多的行業(yè)，走向了網(wǎng)絡(luò)營(yíng)銷的方式。首選阿里巴巴。企業(yè)與企業(yè)之間交流的最好平臺(tái)，采購(gòu)商與供應(yīng)商
發(fā)表于 04-15 10:04
《阿里巴巴Android開(kāi)發(fā)手冊(cè)》正式發(fā)布，獻(xiàn)給移動(dòng)開(kāi)發(fā)者的新年禮物
，這些App依然可以做到“絲般順滑”。在這背后，是阿里巴巴移動(dòng)開(kāi)發(fā)團(tuán)隊(duì)的不斷探索和優(yōu)化，久而久之，這些經(jīng)驗(yàn)匯總成了一套完善的開(kāi)發(fā)規(guī)范，指導(dǎo)工程師開(kāi)發(fā)出體驗(yàn)好、性能優(yōu)、穩(wěn)定性佳、安全性高的App。該開(kāi)發(fā)
發(fā)表于 02-28 16:29
阿里巴巴敏捷研發(fā)的探索與實(shí)踐
教練何勉、張迎輝、張燎原為大家分享阿里巴巴的敏捷實(shí)踐，從中大家可以了解到互聯(lián)網(wǎng)產(chǎn)品全生命周期的探索和創(chuàng)新方法，看板方法如何助力阿里健康醫(yī)藥B2B業(yè)務(wù)發(fā)展，以及與敏捷教練一起互動(dòng)交流如何將敏捷理念實(shí)施
發(fā)表于 03-07 17:26
阿里巴巴大數(shù)據(jù)實(shí)踐之?dāng)?shù)據(jù)建模
的數(shù)據(jù)倉(cāng)庫(kù)模型建設(shè)經(jīng)歷了多個(gè)發(fā)展階段。第一個(gè)階段：完全應(yīng)用驅(qū)動(dòng)的時(shí)代，阿里巴巴的第一代數(shù)據(jù)倉(cāng)庫(kù)系統(tǒng)構(gòu)建在Oracle上，數(shù)據(jù)完全以滿足報(bào)表需求為目的，將數(shù)據(jù)以與源結(jié)構(gòu)相同的方式同步到Oracle（稱作
發(fā)表于 03-14 17:23
“阿里巴巴大數(shù)據(jù)系統(tǒng)體系”四大層次
。 阿里巴巴作為距離大數(shù)據(jù)最近的公司之一，既有豐富的數(shù)據(jù)資源也有豐富的應(yīng)用場(chǎng)景，從它建構(gòu)的大數(shù)據(jù)體系了解“大數(shù)據(jù)”這條生態(tài)鏈的全貌，我認(rèn)為是比較科學(xué)的。 “阿里巴巴大數(shù)據(jù)系統(tǒng)體系”設(shè)計(jì)原則：滿足不斷
發(fā)表于 08-29 16:19
國(guó)內(nèi)芯片—阿里巴巴的人工智能實(shí)力
的天貓精靈車載版語(yǔ)音交互系統(tǒng)將首先搭載在沃爾沃汽車上，其體驗(yàn)版出現(xiàn)在了2018年云棲大會(huì)的阿里巴巴人工智能實(shí)驗(yàn)展臺(tái)，引人關(guān)注。阿里巴巴人工智能實(shí)驗(yàn)室連續(xù)發(fā)布了幾款黑科技，為用戶搭建了一個(gè)圍繞倉(cāng)、機(jī)器人
發(fā)表于 09-27 17:54
阿里巴巴無(wú)線空口提案正式成為L(zhǎng)oRa國(guó)際標(biāo)準(zhǔn)
過(guò)長(zhǎng)達(dá)2年與國(guó)際相關(guān)技術(shù)專家反復(fù)研究論證的不懈努力，LoRa聯(lián)盟批準(zhǔn)發(fā)布阿里巴巴提交的《LoRaWAN CN470頻譜技術(shù)標(biāo)準(zhǔn)》提案成為正式國(guó)際標(biāo)準(zhǔn)，該標(biāo)準(zhǔn)中的很多方案設(shè)計(jì)，例如全雙工設(shè)計(jì)與經(jīng)濟(jì)的天線
發(fā)表于 12-13 10:10
阿里巴巴ai模型破世界紀(jì)錄_阿里巴巴的人工智能未來(lái)發(fā)展解析
阿里巴巴近日再爆大事件，阿里巴巴ai模型在閱讀理解領(lǐng)域頂級(jí)賽事SQuAD破世界紀(jì)錄引起大家的高度關(guān)注，跟隨小編一起來(lái)了解一下是什么情況，看看阿里巴巴人工智能的未來(lái)發(fā)展趨勢(shì)以及全球人工智能的未來(lái)發(fā)展趨勢(shì)是什么。
發(fā)表于 01-16 11:47
?2032次閱讀
阿里巴巴回應(yīng)“收縮招聘”：系假新聞，只是阿里巴巴近期的一次人才盤點(diǎn)和人才體系升級(jí)
速途網(wǎng)10月23日消息(報(bào)道：吳佳馨)近日有傳言稱，阿里巴巴已縮減headcount，所有業(yè)務(wù)線不批offer。今日下午，阿里巴巴對(duì)此傳言做出回應(yīng)，稱該消息為假新聞，這只是阿里巴巴近期的一次人才盤點(diǎn)
發(fā)表于 10-25 11:15
?590次閱讀
阿里巴巴馬云占股份多少？阿里巴巴馬云持股比例？目前馬云持股降至4.8%
馬云在阿里巴巴占多少股份你知道嗎？之前大概馬云在阿里巴巴的持股比例為7%，現(xiàn)在馬云在阿里持股降至5%以下但是仍為最大個(gè)人股東。
發(fā)表于 07-13 17:02
?2.8w次閱讀
阿里巴巴發(fā)布阿里云量子開(kāi)發(fā)平臺(tái)
今日，阿里巴巴發(fā)布阿里云量子開(kāi)發(fā)平臺(tái)（ACQDP），并全面開(kāi)源量子模擬器“太章2.0”，支持從業(yè)人員設(shè)計(jì)量子硬件、測(cè)試量子算法，并探索在材料、分子發(fā)現(xiàn)、優(yōu)化問(wèn)題、機(jī)器學(xué)習(xí)等領(lǐng)域內(nèi)的應(yīng)用
阿里巴巴注冊(cè)元宇宙
近日，阿里巴巴元宇宙商標(biāo)已經(jīng)被其他公司搶注，目前商標(biāo)狀態(tài)均為申請(qǐng)中。阿里巴巴通過(guò)成立XR 實(shí)驗(yàn)室逐步實(shí)現(xiàn)元宇宙的四個(gè)階段布局，擁抱元宇宙。
鐳神智能入選阿里巴巴諸神之戰(zhàn)2023年度智能制造賽道之星
近日，阿里云發(fā)布《Create@阿里巴巴諸神之戰(zhàn)2023年度新勢(shì)力榜單》，鐳神智能入選Create@阿里巴巴諸神之戰(zhàn)2023年度智能制造賽道
工商網(wǎng)監(jiān)
評(píng)論