命盘自测面壁小钢炮4.0发布:性能比肩 Qwen-3-8B,极限220倍提速
新浪科技讯 6月10日下午消息,近日,面壁智能第四代“面壁小钢炮” MiniCPM4.0 端侧模型(代号“前进四”)(🥍)发布。据悉,第四代小钢炮拥有 8B 、0.5B两种参数规模,实现了同级最佳的模型性能。可让长文本、深思考在端侧真正跑起来,实现220倍极限加速。
命盘自测 其中,MiniCPM 4.0-8B 模型(📇)为稀疏注意力模型,在MMLU、CEval、MATH500、HumanEval等基准测试中,以仅22%的训练开销,性能比肩 Qwen-3-8B、超越Gemma-3-12B。MiniCPM 4.0-0.5B在性能上,也较更大的Qwen-3-0.6B、Llama 3.2实现仅2.7%的训练开销,一半参数性能翻倍,并(🚃)实现了最快 600 Token/s的极速推理(🤲)速度。
命盘自测 相较于Qwen-3-8B、Llama-3-8B、GLM-4-9B等同等参数规模端侧模型,实现了长文本推理速度5倍常规加速以及最高 220倍加速(显存受限极限场景下测出),让端侧模型长文本推理“快如闪电”。面(✴)壁智能联合创始人兼首席科学家刘知远在与(⛅)新浪(🤗)科技沟通中表示,“最高220倍加(🗼)速,其实是建立在我们模型架构、数据治理、软硬件结合、(🕥)训练等方面全栈创新优化成果之上的。”
命盘自测 刘知远指出,220倍的加速看上去比(⌛)较夸张,但本身(🦒)其实存在一个特殊性——由于MiniCPM4.0 在处理更长序列的数据时,可以更好地去处理Transformer架构带来的内存爆炸问题,避免了长序列数据处理带来的内存(👨)占用倍增,而同尺寸的Qwen-3-8B、Llama-3-8B等模型并未(🌫)就此进行优化,因此MiniCPM4.0有了突出的表(❌)现。
据悉,MiniCPM 4.0 模型采用的InfLLMv2稀疏注意力架构改变了传统 Transformer 模型的相关性计算方式(💥),有效摆脱了逐字重复计算的低效,将稀疏度从行业普遍的40%-50%,降至极致的5%,注意力层仅需1/10的计算(👯)量即可完成长文本计算。且对算子底层重写,进一步加速提升,并使得对文本相关性精准性大大提升。
值得一提的是,DeepSeek 使用的长文本处理架构NSA(Native Sparse Attention)也引用并采用了与InfLLM相同的分块注意力计算思路,但(🦔)其对于短文本的推理较慢,InfLLMv2则很好地解决了NSA在短文(😆)本推理上的短板。
命盘自测 在缓存消耗上,MiniCPM 4.0-8B在 128K 长文本场景下相较于(👐)Qwen3-8B仅需 1/4 的缓存存储空间(🌧)。在速度、性能飙升的同时,又做到了模型极致压缩,让端侧算力不再有压力。
命盘自(⏲)测 据悉,基于 8B 版本,面壁智能已微调出(🐽)两个特定能力模型,分别可以用作 MCP Client 和纯端侧性(🛷)能比肩Deep Research的研究报告神器MiniCPM4-Surve。截至目前(🐝),面壁小钢炮 MiniCPM 系列全平台下载量累计破1000万。(文猛)
相关链接:
- 惠普推出新款暗影精灵 11 台式电脑:白色侧板机箱,Ultra 7 265F + RTX 5060Ti 16G 版本国补价 8199 元
- 尽显“国际范儿” 龙舟已划向全世界
- 众擎 PM01 京东 Joy Inside 机器人上架:支持角色定制 / 人设塑造,18.8 万元
- AMD 下代 AI 机架解决方案“长胖”:Helios 采用双宽机架设计
- 安全启动双漏洞曝光,微软已修补其中之一
- 1 分钟速读国补攻略:全网 618 狂促 520 小高潮开启,索尼 WH-1000XM6 降噪耳机上市立减千元
- 安徽泾县再通报“游客被殴打”:涉事3人被行拘
- 第四届青少年互联网大会举行,国内首套网络素养科普读本发布
- 一加平板 Lite 渲染图曝光:11 英寸 LCD 屏幕、Helio G100 芯片、9340mAh 电池
- 全国首个跨省域房建项目方厅水院竣工,地跨沪苏浙有“长三角原点”之称
相关新闻
- 命盘自测以军F-35战机被击落?伊朗媒体公布照片详细阅读
图源:伊朗伊斯兰共和国官方账号14日在社交平台X上公布被击落的以色列F-35战机残骸照。 伊朗塔斯尼姆通讯社14日在社交媒体公布一架被伊...
2025-06-1679
- 命盘自测博泰车联网应宜伦:应积极拥抱人工智能,伦理责任先放后详细阅读
专题:2025轩辕汽车蓝皮书论坛 2025第十七届轩辕汽车蓝皮书论坛于2025年6月13日-15日在广州举行。 博泰车联网创始人、董事长应宜伦...
2025-06-1588
- 命盘自测高效、精量、协同 三个关键词解码“三夏”科技范儿详细阅读
AI解锁丰收密码丨高效、精量、协同 三个关键词解码“三夏”科技范儿 从5月中旬西南麦区大面积机收开始,到今天,全国冬小麦收获已进入全面收尾...
2025-06-15107
- 命盘自测闯关港股IPO,频繁融资的亿纬锂能有多缺钱?详细阅读
炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会! 来源:尺度商业 2025年,港股新股市场非常火热,多家A股公司相...
2025-06-15144
- 命盘自测A股重大调整,明日生效详细阅读
A股系列指数调样,明日生效!根据此前消息,6月16日为A股系列指数定期例行调整的生效日。这次调样的指数包括上证50、上证180、上证380、科创50...
2025-06-15153
- 命盘自测印度客机坠毁机场暂停运营详细阅读
据印度媒体援引艾哈迈达巴德机场发言人消息,受坠机事件影响,艾哈迈达巴德机场目前暂停运营。所有航班暂停运行,直至另行通知。 总台记者获悉,一...
2025-06-15169
- 命盘自测武汉加快数据基础制度建设 促公共数据资源开发利用详细阅读
中新网武汉6月13日电 (卢琪 袁芳)武汉市近日印发《武汉市公共数据资源管理实施细则(试行)》(以下简称《实施细则》)、《武汉市公共数据授权运营实...
2025-06-15165
- 命盘自测以色列、沙特股市因中东冲突加剧下跌详细阅读
据报道,在以色列总理本雅明・内塔尼亚胡政府开始对伊朗发动空袭后,以色列股市在首个交易日下跌,而沙特阿拉伯的股票基准指数也因市场对该地区冲突可能扩大...
2025-06-15174