電子發(fā)燒友網(wǎng)報道（文/李彎彎）2025年6月6日，面壁智能CEO李大海在北京智源大會上發(fā)布有史以來最具想象力的面壁小鋼炮模型MiniCPM4.0，代號“前進四”，開源兩個版本，8B閃電稀疏版和0.5B最強小小鋼炮。





李大海表示，面壁智能是第一個把全模態(tài)模型帶到端側(cè)的公司。面壁智能小鋼炮，旨在把大模型放到離用戶最近的地方，做高效的端側(cè)智能。

MiniCPM4.0最大的特點——快

2019年面壁智能超前入局大模型，發(fā)布世界首個知識增強大模型ERNE，2020年發(fā)布國內(nèi)首個中文大模型CPM-1，2021年發(fā)布持續(xù)學(xué)習發(fā)模型CPM-2，2022年發(fā)布可控生成大模型CPM-3；2023年，面壁智能又發(fā)布CPM-Bee多語言百億大模型，之后還發(fā)布了第三代千億參數(shù)多模態(tài)大模型CPM-Cricket，評分超越GPT-3.5，邏輯能力比肩GPT-4。

2024年面壁智能領(lǐng)先走向端側(cè)智能。2月發(fā)布MiniCPM-2B旗艦級端側(cè)模型；4月發(fā)布MiniCPM 2.0；9月發(fā)布MiniCPM-V 2.6，在端側(cè)性能實現(xiàn)全面對標 GPT-4V；12月發(fā)布MiniCPM 3.0，在包括自然語言理解、知識、代碼、數(shù)學(xué)等多項能力上超越OpenAI的 GPT-3.5；2025年1月，面壁智能發(fā)布MiniCPM-o 2.6端側(cè)全模態(tài)模型，性能比肩GPT-4o；2025年3月發(fā)布cpmGO，首個純端側(cè)智能體助手。



李大海介紹，面壁智能端側(cè)大模型面壁小鋼炮包括基座模型MiniCPM、旗艦多模態(tài)模型MiniCPM-V、旗艦全模態(tài)模型MiniCPM-o。截至目前，面壁小鋼炮旗艦端側(cè)大模型有超過1000萬下載量。李大海表示：“這是千千萬萬開發(fā)者對我們的認可，未來還會持續(xù)發(fā)布更好的端側(cè)大模型，賦能智能硬件的創(chuàng)新和開發(fā)。”



“這次發(fā)布的面壁小鋼炮模型MiniCPM4.0版本，最大的特點就是快。”李大海談到，“相比其他模型，MiniCPM4.0-8B僅22%訓(xùn)練開銷，在同等參數(shù)下，性能更強，可對標Qwen3-8B，超越Gemma3-12B。”

MiniCPM4-MCP支持15個主流應(yīng)用，包括Airbnb、Github mcp、Slack、PPTs、PowerPoint、office-Word-Mcp-Server、Computer Use、Desktop-commander、File_system、OpenAI Whisper等；MiniCPM4-Survey端側(cè)版表現(xiàn)比肩DeepResearch。



面壁小鋼炮正在進行廣泛的生態(tài)適配，適配主流芯片與開源框架部署，芯片如括華為、英特爾、聯(lián)發(fā)科、高通；開源框架如LLM、LlamaFactory、AutoGPT、SGland等。李大海強調(diào)，依托分塊稀疏注意力機制，MiniCPM4.0在英特爾平臺上推理深度優(yōu)化實現(xiàn)兩倍加速。

多維度技術(shù)創(chuàng)新——架構(gòu)高效、推理高效

MiniCPM4.0之所以能夠做到又快又好，源于系統(tǒng)級層層效率優(yōu)化，包括四個層面：架構(gòu)高效、推理高效、學(xué)習高效、數(shù)據(jù)高效。



架構(gòu)高效方面，MiniCPM4.0采用InfLLM升級版InfLLM 2.0稀疏注意力結(jié)構(gòu)。李大海介紹說，稀疏度越高，計算量越小，速度越快。傳統(tǒng)Transformer模型每token需和序列中所有token進行相關(guān)性計算逐字重復(fù)計算，效率低下。InfLLM 稀疏注意力機制，對文本分塊分區(qū)域處理，只對最具相關(guān)性重點區(qū)城進行注意力計算“抽查”，更高效。

而且MiniCPM4.0采用高效雙頻換擋，即長文本用稀疏，短文本用稠密。



推理高效方面，面壁智能自研全套端側(cè)高性能推理框架。CPM.cu自研極速端側(cè)推理框架，稀疏、投機和量化的高效結(jié)合，F(xiàn)R-Spec輕量化投機采樣，并給小模型減負加速，使得速度提升5倍；BitCPM極致低位寬量化，端側(cè)極致內(nèi)存容量友好，4-bit量化達業(yè)界SOTA等級，瘦身90%；Arklnfer自研跨平臺部署框架，面向多平臺端側(cè)芯片極致優(yōu)化，跨平臺高效投機采樣和限制解碼，端側(cè)多平臺 ModelZoo絲滑使用，速度提升2倍。

李大海表示，與云端不同，云端多采用英偉達、昇騰的芯片，而端側(cè)較為復(fù)雜，這種跨平臺部署框架對于大模型端側(cè)部署來說就極為重要。在他看來，面壁智能新帶來的面壁小鋼炮模型MiniCPM4.0，在多項技術(shù)的加持下，使用更少的數(shù)據(jù)，需要更少的訓(xùn)練、更少的算力，因而成本也會下降，這有助于大模型能在更多場景實現(xiàn)落地。