近日，在權(quán)威財(cái)經(jīng)媒體36氪主辦的“WISE顛覆·AIGC”主題產(chǎn)業(yè)峰會(huì)上，墨芯人工智能憑借業(yè)界領(lǐng)先的AI計(jì)算平臺(tái)，獲頒“下一個(gè)百億規(guī)模AIGC產(chǎn)品”稱號(hào)，被推舉為新一代人工智能領(lǐng)域最具生產(chǎn)力的代表產(chǎn)品。

該獎(jiǎng)項(xiàng)由36氪綜合行業(yè)分析師等專家團(tuán)分析與調(diào)研數(shù)據(jù)，旨在評(píng)估AGI時(shí)代現(xiàn)象級(jí)產(chǎn)品，評(píng)出站在熱潮的巔峰定義和捕捉新機(jī)會(huì)的企業(yè)。

墨芯榮膺此獎(jiǎng)，充分體現(xiàn)出在AIGC時(shí)代技術(shù)優(yōu)勢(shì)和巨大潛力，也再度印證了稀疏計(jì)算作為趨勢(shì)性技術(shù)的巨大價(jià)值獲得了廣泛關(guān)注。

稀疏計(jì)算

從根本上解決大模型發(fā)展與算力的矛盾

ChatGPT等AIGC應(yīng)用的爆發(fā)，加速了新的變革機(jī)會(huì)的到來(lái)，帶動(dòng)大模型、芯片等相關(guān)的產(chǎn)業(yè)鏈各環(huán)節(jié)的躍遷。在AIGC產(chǎn)業(yè)鏈中，算力作為基礎(chǔ)設(shè)施，被公認(rèn)為最具投資價(jià)值的賽道。

紅杉資本《生成式AI：一個(gè)創(chuàng)造性的新世界》指出，生成式AI可能創(chuàng)造數(shù)萬(wàn)億美元的經(jīng)濟(jì)價(jià)值。ChatGPT走紅以后，算力的供不應(yīng)求已成為焦點(diǎn)，AI芯片頭部企業(yè)創(chuàng)下史上最高單季銷量紀(jì)錄，遠(yuǎn)超過先前《華爾街日?qǐng)?bào)》估計(jì)的銷售額，算力市場(chǎng)的需求仍在持續(xù)攀升。

在算力提升的各種探索方向上，稀疏計(jì)算是業(yè)界公認(rèn)最有前景的的技術(shù)：

稀疏模型將取代稠密模型成為主流——已成為業(yè)界權(quán)威認(rèn)同的趨勢(shì)，并得到Google,微軟，Meta,英偉達(dá)等巨頭的投入。

Google的AI負(fù)責(zé)人Jeff Dean早已指出：稀疏化是AI模型的發(fā)展趨勢(shì)，“今天的模型是稠密而低效的，Pathways（Google提出的統(tǒng)一架構(gòu)）將使它們變得稀疏和高效?！?Google的MoE（稀疏門控的專家混合層）及Pathways架構(gòu)等，都是稀疏計(jì)算理念的成果，并在實(shí)踐中取得比稠密模型更高的效率。芯片巨頭英偉達(dá)也在其安培架構(gòu)中首度引入細(xì)粒度結(jié)構(gòu)化稀疏，支持2倍稀疏化。

大模型如何實(shí)現(xiàn)廣泛應(yīng)用，答案也早由Google Research與OpenAI的聯(lián)合論文揭示：《Sparse is Enough in Scaling Transformers》。

論文地址：https://arxiv.org/pdf/2111.12763.pdf

稀疏計(jì)算被眾多巨頭看好的原因，正是由于它能從根本上解決大模型發(fā)展與算力的矛盾：稀疏計(jì)算讓大模型既能在參數(shù)量上躍升若干個(gè)數(shù)量級(jí)的同時(shí)，又不因參數(shù)增長(zhǎng)而產(chǎn)生過大的計(jì)算量，解決了大模型的高算力需求、高功耗、高費(fèi)用等痛點(diǎn)，帶來(lái)“多贏”的效果。

有了稀疏計(jì)算的加持，業(yè)界大模型的部署也能迎來(lái)更廣闊的施展空間：更多企業(yè)、開發(fā)者能夠基于“用得起”的算力服務(wù)，來(lái)進(jìn)行AIGC等應(yīng)用的開發(fā)與大模型的行業(yè)落地。

墨芯

稀疏計(jì)算引領(lǐng)者

此次墨芯登上“下一個(gè)百億規(guī)模AIGC產(chǎn)品”榜單，正是基于墨芯長(zhǎng)期在稀疏計(jì)算領(lǐng)域的深耕。AIGC時(shí)代，墨芯率先以稀疏計(jì)算技術(shù)、產(chǎn)品與實(shí)踐的強(qiáng)大實(shí)力，成為AIGC算力層的中堅(jiān)代表：

01

創(chuàng)新技術(shù)引領(lǐng)

當(dāng)業(yè)界對(duì)神經(jīng)網(wǎng)絡(luò)高倍稀疏化算法尚停留在研究層面時(shí)，墨芯已率先將算法和硬件結(jié)合落地，基于軟硬協(xié)同設(shè)計(jì)推出首顆稀疏芯片Antoum?，實(shí)現(xiàn)稀疏神經(jīng)網(wǎng)絡(luò)的高模型精度和高硬件利用效率，充分釋放稀疏計(jì)算的潛力。

Antoum?打破業(yè)界紀(jì)錄，成為首顆支持高稀疏倍率的AI芯片：支持高達(dá)32倍稀疏張量計(jì)算，此前業(yè)內(nèi)主流芯片僅支持2倍稀疏化，Antoum?將這一紀(jì)錄提升了16倍。

02

產(chǎn)品屢破性能紀(jì)錄

在英偉達(dá)、英特爾等巨頭云集的國(guó)際權(quán)威基準(zhǔn)測(cè)評(píng)MLPerf中，墨芯連續(xù)兩屆蟬聯(lián)冠軍，并在MLPerf Inference 3.0斬獲雙冠：

在開放分區(qū)Resnet-50賽道中，墨芯S40計(jì)算卡以127,375 FPS，斬獲單卡算力全球第一；

墨芯S30計(jì)算卡以4卡383,520 FPS算力，獲整機(jī)4卡算力全球第一。

墨芯計(jì)算卡基于12nm的Antoum?芯片，性能已戰(zhàn)勝4nm工藝產(chǎn)品，站在世界頂尖水平，足以證明稀疏計(jì)算的強(qiáng)大優(yōu)勢(shì)。

03

產(chǎn)業(yè)實(shí)踐推動(dòng)大模型應(yīng)用

基于軟硬協(xié)同的AI計(jì)算平臺(tái)，墨芯為行業(yè)帶來(lái)高算力、低延時(shí)、低功耗的算力解決方案，不僅滿足大模型與AIGC等應(yīng)用的海量算力需求，同時(shí)破解延時(shí)難題，實(shí)現(xiàn)推理加速，為大模型在眾多行業(yè)場(chǎng)景的落地提供算力基礎(chǔ)設(shè)施。墨芯的AI計(jì)算卡產(chǎn)品已實(shí)現(xiàn)量產(chǎn)，并在多個(gè)領(lǐng)域獲得客戶認(rèn)可。

AI 2.0時(shí)代已經(jīng)來(lái)臨，大模型即將與各行業(yè)深度融合，產(chǎn)生更豐富多樣的AIGC等應(yīng)用。稀疏計(jì)算已站在這場(chǎng)變革之巔，引領(lǐng)算力的進(jìn)化與發(fā)展；墨芯亦將以創(chuàng)新的稀疏計(jì)算方案，為大模型應(yīng)用提供強(qiáng)大動(dòng)力支撐，為AIGC打開更廣闊的發(fā)展空間，去賦能下一個(gè)AIGC現(xiàn)象級(jí)產(chǎn)品。

審核編輯 ：李倩