三星宣布新的HBM2內存集成了AI處理器，最高可提供1.2 TFLOPS嵌入式計算能力，使內存芯片本身可以執(zhí)行CPU、GPU、ASIC或FPGA的操作。

據(jù)報道，新的HBM-PIM （processing-in-memory） 芯片在每個內存模塊內注入了一個AI處理器，從而將處理操作轉移到HBM本身。這種新型內存的設計是為了減輕內存與一般處理器之間轉移數(shù)據(jù)的負擔，因為實際應用中，這種負擔無論在功耗還是時間上，往往比真正的計算操作消耗更大。

三星表示，將這項技術應用到稱為Aquabolt的HBM2內存時，可以提供兩倍的性能，同時將功耗降低70%以上。三星還聲稱，使用這種新內存不需要任何軟件或硬件變化（包括內存控制器），從而可以被市場更快地采用。目前該方案可以在進行商業(yè)驗證，預計所有驗證將在今年上半年完成，這也標志著離實際應用已經不遠了。

在前一段時間舉行的國際固態(tài)電路虛擬會議（ISSCC）期間，三星展示了其新內存架構的更多細節(jié)。每個存儲器組都有一個嵌入式可編程計算單元（PCU），運行頻率為300MHz。該單元通過來自主機的常規(guī)存儲器命令進行控制，以實現(xiàn)in-DRAM處理，它可以執(zhí)行各種FP16計算。存儲器也可以在標準模式下工作，也就是說它可以像普通的HBM2一樣工作，或者在FIM模式下進行內存數(shù)據(jù)處理。

當然，為PCU單元騰出空間會降低內存容量 - 與標準的8Gb HBM2裸片相比，每個PCU配備的內存裸片只有一半的容量（4Gb）。為了幫助解決這個問題，三星采用了6GB堆棧，將4個帶有PCU的4Gb裸片與4個沒有PCU的8Gb裸片組合在一起（而不是普通HBM2的8GB堆棧）。

一般用戶想用上這種內存還需要一些時間，至少目前不會在最新的游戲GPU上使用它。三星指出，這種新的內存首先要滿足數(shù)據(jù)中心、HPC系統(tǒng)等大規(guī)模應用處理的需求。還有一個挑戰(zhàn)性的問題是內存芯片的散熱，特別是考慮到需要堆棧，不過三星暫時沒有解釋HBM-PIM芯片會如何解決。
責任編輯:tzh