在人工神經(jīng)網(wǎng)絡(luò)中,張量作為多維數(shù)組,在數(shù)據(jù)結(jié)構(gòu)中扮演著核心角色。近年來(lái),隨著深度學(xué)習(xí)領(lǐng)域的蓬勃發(fā)展和生成式人工智能技術(shù)的興起,神經(jīng)網(wǎng)絡(luò)模型的復(fù)雜度持續(xù)攀升,模型參數(shù)量更是呈現(xiàn)出爆炸式的增長(zhǎng)態(tài)勢(shì)。然而,面對(duì)龐大的張量計(jì)算需求,傳統(tǒng)的存儲(chǔ)和處理分立的電子計(jì)算硬件面臨計(jì)算延遲大、功耗高等問(wèn)題,從而成為了制約人工智能領(lǐng)域快速進(jìn)步的一大瓶頸。
光計(jì)算作為一種新興的計(jì)算技術(shù),具有大帶寬、低延遲、低功耗等獨(dú)特優(yōu)勢(shì),展現(xiàn)出克服傳統(tǒng)電子計(jì)算瓶頸的巨大潛力,為未來(lái)的高性能計(jì)算提供了全新的解決方案。傳統(tǒng)的光計(jì)算架構(gòu)往往依賴于光學(xué)元件陣列(如馬赫曾德?tīng)柛缮鎯x陣列或者微環(huán)諧振器陣列等)來(lái)執(zhí)行矩陣和張量計(jì)算,存在算力密度低、調(diào)控復(fù)雜等問(wèn)題,從而極大限制了光計(jì)算的算力性能。此外,高速光計(jì)算與低速電計(jì)算之間存在嚴(yán)重的速度失配問(wèn)題,并且需要使用高速模數(shù)/數(shù)模轉(zhuǎn)換器進(jìn)行數(shù)據(jù)轉(zhuǎn)換,從而帶來(lái)嚴(yán)重的功耗問(wèn)題。
中國(guó)科學(xué)院半導(dǎo)體研究所李明研究員團(tuán)隊(duì)提出了一種新型的光學(xué)張量處理單元,該OTPU使用無(wú)需熱調(diào)諧的微環(huán)諧振器作為核心單元,基于波分復(fù)用技術(shù)通過(guò)波長(zhǎng)調(diào)諧和調(diào)制器偏置點(diǎn)改變實(shí)現(xiàn)實(shí)數(shù)域權(quán)重調(diào)整,實(shí)現(xiàn)了34.04 TOPS/mm2的超高算力密度,為高算力光計(jì)算實(shí)現(xiàn)探索了一種全新的技術(shù)路徑。該方案通過(guò)引入光波/微波多域復(fù)用技術(shù)有效擴(kuò)展了數(shù)據(jù)輸入維度,從而實(shí)現(xiàn)光學(xué)張量運(yùn)算,提高了信息訪問(wèn)的靈活度,降低了對(duì)高速模數(shù)/數(shù)模轉(zhuǎn)換器的依賴。該研究成果展示了光計(jì)算在高性能、高維數(shù)據(jù)處理方面的巨大潛力,為人工智能和數(shù)據(jù)科學(xué)中的張量計(jì)算提供了一種全新的解決方案。
-
半導(dǎo)體
+關(guān)注
關(guān)注
339文章
30751瀏覽量
264342 -
光學(xué)
+關(guān)注
關(guān)注
4文章
867瀏覽量
38119
原文標(biāo)題:半導(dǎo)體所在光學(xué)張量處理領(lǐng)域取得新進(jìn)展
文章出處:【微信號(hào):bdtdsj,微信公眾號(hào):中科院半導(dǎo)體所】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
上海光機(jī)所在高功率U波段飛秒激光方面取得新進(jìn)展
上海光機(jī)所在中紅外光譜合束光柵研究方面取得新進(jìn)展
蘇州納米所納米加工平臺(tái)在InP基半導(dǎo)體激光器領(lǐng)域取得新進(jìn)展
上海光機(jī)所在脈沖累計(jì)效應(yīng)影響光絲熒光研究中取得新進(jìn)展
科學(xué)島團(tuán)隊(duì)在紅外光譜遙感分析方法領(lǐng)域取得新進(jìn)展
上海光機(jī)所在不同激光諧波裂解HDPE方面取得新進(jìn)展
上海光機(jī)所在激光驅(qū)動(dòng)離子加速方面取得新進(jìn)展
上海光機(jī)所在激光燒蝕曲面元件理論研究中取得新進(jìn)展
東風(fēng)汽車轉(zhuǎn)型突破取得新進(jìn)展
上海光機(jī)所在高功率激光精密計(jì)算光場(chǎng)測(cè)量研究方面取得新進(jìn)展
上海光機(jī)所在強(qiáng)場(chǎng)太赫茲對(duì)砷化鎵偶次諧波調(diào)控研究方面取得新進(jìn)展
百度在AI領(lǐng)域的最新進(jìn)展
蘭州大學(xué):研究團(tuán)隊(duì)在溫度傳感用發(fā)光材料領(lǐng)域取得新進(jìn)展
西安光機(jī)所在太赫茲超表面逆向設(shè)計(jì)領(lǐng)域取得新進(jìn)展
半導(dǎo)體所在光學(xué)張量處理領(lǐng)域取得新進(jìn)展
評(píng)論