面壁智能开源MiniCPM-V 4.7：350亿参数MoE模型塞进3GB内存，手机上15 token/s即问即答

大模型圈这两年一直在卷参数、卷榜单，但有一家公司在反着走：怎么把越来越大的模型，塞进越来越小的设备里。10 月 13 日，面壁智能正式发布新一代端侧多模态大模型 MiniCPM-V 4.7，包含 35B-A3B 与 1B 两个版本，模型权重以 Apache 2.0 协议在 Hugging Face、ModelScope 等平台开源。

这次的核心突破是一句话可以概括的：首个能在端侧无损、流畅运行的开源 MoE 模型。35B-A3B 版本总参数 350 亿、每次推理仅激活 30 亿，只需约 3GB 内存即可运行，在 iPad Pro 上实测解码速度达 15+ token/s——即问即答，无需等待。

MoE 上手机，难在哪

MoE（混合专家）架构是大模型圈的主流路线：模型内部有众多"专家"，每次回答只调用其中几位，因此总参数可以做得很大、能力很强，同时推理成本可控。但这个架构放到手机上就遇到了一个结构性矛盾——

传统做法是"用哪位专家，就临时把它搬进运存，搬完再算"。一搬一停，就会卡顿。总参数 350 亿的模型，哪怕每次只激活 30 亿，专家权重在运存里搬进搬出的开销，也足以让回答变得断断续续。

面壁智能的解法是自研的 LES（前瞻专家调度）技术：系统提前预测接下来要用到哪些专家，趁当前计算还在进行时就把它们提前加载好，让加载与计算同步推进。官方给了一个很直观的比喻——就像接力赛里接棒人提前起跑、边跑边接棒，棒子到手时已是全速，无需任何等待时间。该技术目前为业界独家开源方案。

两档规格，各有分工

35B-A3B 版本是这次的主角。除了前述的 3GB 内存和 15+ token/s 解码速度，在 iPhone 17 Pro Max 上也能以 3GB 内存跑到每秒 13 个 token 以上。发布当日即支持瑞芯微、NVIDIA、Intel 和 Apple 等国内外主流芯片平台，覆盖 iOS、安卓和鸿蒙三大系统，并同步提供了开源端侧适配代码及主流推理框架的接入。

1B 版本主打端侧极致效率，面向算力更有限的设备，让旗舰级的多模态能力跑进更多终端。用官方的话说，是要让端侧多模态"从少数设备的探索，走向每个人的日常"。

能力上，4.7 延续了 MiniCPM-V 系列的单图、多图和视频理解。从模型卡披露的信息看，其语言基座来自通义千问 Qwen3.5 与 Qwen3.6 系列，视觉理解模块采用谷歌的 SigLIP2——国内端侧模型团队站在开源生态肩膀上继续做垂直打磨，本身就是开源协作价值的一个样本。

系列脉络与社区积累

把这一代放进时间线里看：上一代 MiniCPM-V 4.6 发布于 2026 年 5 月 11 日，当时已支持 4 倍/16 倍混合视觉 token 压缩与移动端部署，5 月 17 日上线 API 服务，6 月 25 日进入 Ollama 官方模型库。此外，系列中的 MiniCPM-o 4.5 是一款 9B 端到端全模态模型，可在生成语音和文字的同时持续接收视频与音频输入。

社区积累是这个系列真正的护城河：由面壁智能联合 OpenBMB 开源社区发布的 MiniCPM 系列，全球累计下载量已突破 6000 万次，覆盖文本、视觉、语音全模态。早在 2024 年 5 月，MiniCPM-V 就曾登顶 GitHub Trending 和 Hugging Face Trending。

为什么值得关注

对开发者来说，这代模型把"端侧跑大模型"的门槛从"旗舰手机勉强能跑小模型"推进到了"3GB 内存流畅跑 350 亿参数 MoE"。多模态理解加上可控的内存占用，意味着离线的图片问答、文档理解、视频分析类应用有了可以真正落地的基座——不必依赖云端 API，也就没有网络延迟和隐私外传的顾虑。

对行业来说，当云端的竞争聚焦在智能体和前沿能力时，端侧这条线正在安静地拉开差距。谁能把大参数模型高效压进终端设备，谁就握住了下一代 AI 硬件生态的入场券。

模型权重已在 Hugging Face（OpenBMB 组织）开源，Apache 2.0 协议允许商用，端侧适配代码与推理框架支持可同步获取。

来源：面壁智能官方发布、环球网科技、AIbase