光電混合技術(shù)是催生下一個大模型發(fā)展的底層技術(shù)之一。

——沈亦晨博士

我們認(rèn)為需要從物理底層機(jī)制入手，尋求一種不同的解決方案來突破現(xiàn)有的（算力）限制。這就是我們提出光子計算概念的原因。

——孟懷宇博士

2023年7月6日至8日，世界人工智能大會（WAIC）在上海召開。曦智科技創(chuàng)始人、首席執(zhí)行官沈亦晨博士受邀出席“從‘端’到‘云’，勇攀‘芯’高峰”——WAIC芯片主題論壇，在圓桌論壇環(huán)節(jié)以“圍繞新應(yīng)用，打造新生態(tài)”為主題，分享了曦智科技的見解和實踐。曦智科技聯(lián)合創(chuàng)始人、首席技術(shù)官孟懷宇博士則受邀出席WAIC AI開發(fā)者領(lǐng)袖論壇，以2022年WAIC云帆獎得主身份參與圓桌對話，就大模型時代范式轉(zhuǎn)變中的機(jī)遇和挑戰(zhàn)分享了他的洞見。

隨著ChatGPT橫空出世，以大模型為代表的新應(yīng)用不斷涌現(xiàn)，對AI芯片以及產(chǎn)業(yè)鏈產(chǎn)生了諸多影響。

在WAIC 芯片主題論壇上，沈亦晨博士就此發(fā)表了他的觀點(diǎn)。他認(rèn)為，產(chǎn)業(yè)應(yīng)用會驅(qū)動底層技術(shù)的創(chuàng)新，在大模型出現(xiàn)之前，AI的發(fā)展已然推動了許多底層技術(shù)的發(fā)展。然而，從傳統(tǒng)計算到大模型等AI計算產(chǎn)生，該級別的AI對算力、存儲、帶寬的需求激增，對現(xiàn)有的數(shù)據(jù)中心和邊緣設(shè)備提出了更高挑戰(zhàn)。

沈亦晨博士說：“從曦智科技的角度來看，光電混合技術(shù)是催生下一個大模型發(fā)展的底層技術(shù)之一，光子技術(shù)與電混合在一起形成新的異構(gòu)計算方式，可以提供更高效的算力解決方案。一方面，光電混合技術(shù)具備高帶寬、低功耗的特點(diǎn)，讓更多的計算節(jié)點(diǎn)之間高效傳輸，完成更大規(guī)模的計算；另一方面，光電混合技術(shù)也將改變產(chǎn)業(yè)鏈和供應(yīng)鏈，如何讓不同廠商、不同技術(shù)共享一種語言，遵循一個通用協(xié)議，將是提升算力必須探討的重要議題?！?/p>

面對大模型熱潮，行業(yè)該如何通過應(yīng)用創(chuàng)新去適應(yīng)當(dāng)前的市場情況，同樣是各界關(guān)注的焦點(diǎn)問題之一。

在這一方面，曦智科技基于大規(guī)模光電集成技術(shù)的計算新范式，發(fā)展出縱向單節(jié)點(diǎn)算力提升與橫向多節(jié)點(diǎn)算力提升的解決方案，形成光子矩陣計算（oMAC）、片上光網(wǎng)絡(luò)（oNOC）、片間光網(wǎng)絡(luò)（oNET）三大核心技術(shù)。同時，曦智科技還成立了曦智研究院，并且已對外發(fā)布《大規(guī)模光電集成賦能智能算力網(wǎng)絡(luò)白皮書》?！捌诖軌蚺c大家有更多合作，共同建立光電混合計算的大生態(tài)，助推技術(shù)發(fā)展?！鄙蛞喑坎┦空f。

曦智科技三大核心技術(shù)

在WAIC AI開發(fā)者領(lǐng)袖論壇上，針對“大模型熱”，孟懷宇博士表示，隨著摩爾定律的放緩，算力提升已遭遇瓶頸。在這樣的背景下，從業(yè)者更需要思考能做些什么，該如何應(yīng)對。

“我們認(rèn)為需要從物理底層機(jī)制入手，尋求一種不同的解決方案來突破現(xiàn)有的限制。這就是我們提出光子計算概念的原因。光信號也是電磁波，但其頻率約為200THz，因此幾乎沒有串?dāng)_，在計算過程中幾乎不受頻率影響，也沒有歐姆發(fā)熱等問題。當(dāng)然，光子計算也存在一些局限性，但只有通過改變，才有可能突破現(xiàn)有的限制?！泵蠎延畈┦空f。

孟懷宇博士在AI開發(fā)者論壇圓桌會話環(huán)節(jié)發(fā)表他對于大模型熱潮的看法

在當(dāng)天的論壇上，其他與會嘉賓指出，當(dāng)前的深度計算變慢，變成寬度計算。對此，孟懷宇博士進(jìn)一步闡釋說：“這是因為從邏輯上講，從電芯片的層面來看，目前，單個芯片計算能力的提升無法跟上模型規(guī)模的增長速度，所以必須使用越來越多的計算資源。然而，我們知道對于電來說，并行計算的規(guī)模是有限的，1加1小于2，2加2小于4，4加4遠(yuǎn)遠(yuǎn)小于8?！?/p>

在有限的計算資源情況下，又該如何更好地利用資源，使計算能力盡量接近線性增長？孟懷宇博士給出了他的解決方案：“這就需要更好地優(yōu)化整個互連狀態(tài)。從理論上講，如果在一個大規(guī)模計算中，比如萬卡的情況下，每個芯片都能在任何時刻立即獲得所需的數(shù)據(jù)，那么我們就可以實現(xiàn)線性增長。然而，目前的互連架構(gòu)還無法達(dá)到這個水平，我們需要盡量通過技術(shù)手段接近這個目標(biāo)，光互連具有高帶寬、低延遲、低功耗等特性，同時對于傳播距離不敏感，我們認(rèn)為，光可以成為一種更好的解決方案，我認(rèn)為這一點(diǎn)可能比GPU本身的性能提升更為關(guān)鍵?！?/p>

與此同時，目前已經(jīng)投入商用的，GPU之間的大帶寬、低延遲互連解決方案依然數(shù)量有限?！笆澜鐟?yīng)該是多樣的，解決方案也應(yīng)該是多樣的，曦智科技也希望我們的光電混合計算成為其中的一個解決方案?！泵蠎延畈┦吭诜窒頃r，也表達(dá)了他的期望。