MiniCPM-V 4.7 发布:350 亿参数 MoE 跑进约 3GB 内存,端侧多模态进入「无损流畅」竞争

10 月 13 日,面壁智能正式发布新一代端侧多模态大模型 MiniCPM-V 4.7,包含 35B-A3B 与 1B 两个版本。其中 35B-A3B 采用 MoE 架构,总参数 350 亿、每次推理仅激活 30 亿,官方称其为首个可在端侧无损流畅运行的开源 MoE 模型——仅约 3GB 内存即可运行,iPad Pro 实测解码速度达到 15+ token/s。发布当日即支持瑞芯微、NVIDIA、Intel、Apple 等主流芯片平台,覆盖 iOS、安卓和鸿蒙系统。

一、事件经过:把「搬专家」的停顿藏掉

MoE 模型的特点是内部有众多「专家」,每次回答只调用其中几位,能力强但给手机运存带来极大压力。传统做法是「用哪位专家,就临时把它搬进运存,搬完再算」,一搬一停就会卡顿。MiniCPM-V 4.7 的关键是面壁智能自研的 LES(前瞻专家调度)技术:系统提前预测接下来要用到哪些专家,趁当前计算还在进行时就完成预加载,让加载与计算同步推进——类似接力赛里接棒人提前起跑。面壁方面称该技术目前为业界独家开源方案。

生态侧,本次发布同时提供开源端侧适配代码与主流推理框架支持;1B 版本主打端侧极致效率,面向更广泛的设备铺开。背景数据上,面壁智能联合 OpenBMB 开源社区发布的 MiniCPM 系列,全球累计下载量已突破 6000 万次,覆盖文本、视觉、语音全模态。

二、对从业者的影响

隐私敏感场景多了一个开源可选项。文档理解、离线助手、本地知识库这类「数据不出端」的需求,过去要么用小模型牺牲能力,要么被迫上云。3GB 内存跑 350 亿总参数的多模态模型,把这条中间路线填上了。

嵌入式与硬件开发者受益于适配代码开源。发布当日覆盖瑞芯微、NVIDIA、Intel、Apple 四大芯片平台和三大移动操作系统,适配代码与推理框架开源,显著缩短了向新机型移植的周期。

「实测」口径需要拆开看。15+ token/s 的成绩来自 iPad Pro;手机端运存更小、散热约束更强,同款模型在不同机型上的解码速度会有明显差距。官方适配名单是起点,不是结论。

三、站长观点

端侧模型的真正门槛从来不是参数量,而是内存与调度。LES 的价值在于把专家切换的停顿隐藏掉,这比继续堆参数更解决实际问题——用户对「即问即答」的感知,直接由每次调用的卡顿决定。选型上我给一个明确取舍:先在自己的目标机型上实测再下结论,重点看三个数——常驻内存峰值、长会话后的解码速度衰减、以及视觉任务(拍照问答、文档解析)的响应延迟;跑分可以参考,但替代不了这三个数。

对做工具收录的同行来说,端侧开源模型这一轮的看点不在「又发了一个模型」,而在「哪个框架能把部署摩擦降到最低」。哪家能把一键适配做成熟,哪家就能吃到开发者流量,这个观察我们会持续跟踪。

(性能与适配数据截至 2026-10-13,以面壁智能官网及 GitHub 开源仓库信息为准。)

来源清单

  • 环球网科技《面壁智能发布新一代 MiniCPM-V 4.7:35B 开源大模型无损流畅跑上手机》(2026-10-13)
  • 上海证券报·中国证券网《面壁智能发布新一代开源模型 MiniCPM-V 4.7 可在端侧无损运行》
  • 每日经济新闻《面壁智能发布新一代端侧多模态大模型》(2026-10-13)

暂无评论

暂无评论...