6月13日（星期二），AMD舉行新品發(fā)布會，最重磅的新品當(dāng)屬于具有大模型訓(xùn)練功能的GPU Instinct MI300。

該芯片是針對LLM的優(yōu)化版，擁有192gb的hbm3內(nèi)存、5.2 tb/s的帶寬和896gb/s的Infinity Fabric帶寬。amd將1530億個(gè)晶體管集成在12個(gè)5納米芯片內(nèi)。使用cdna 3 gpu結(jié)構(gòu)、24個(gè)zen 4 cpu核心、128gb hbm3內(nèi)存。與前作mi250、mi300相比，性能和效率分別提高了8倍和5倍。

mi300x提供的hbm與英偉達(dá)ai芯片h100的密度相比，最大2.4倍，帶寬最大1.6倍。amd的芯片將可以運(yùn)行比英偉達(dá)更大的模型。

amd首席執(zhí)行官蘇姿豐表示，mi300x支持400億個(gè)hugging face ai模型運(yùn)行，并演示llm可以寫關(guān)于舊金山的詩。單一mi300x最多可運(yùn)行一個(gè)參數(shù)800億個(gè)模型，這是世界上第一次在單一gpu上執(zhí)行如此大的模型。

審核編輯：郭婷