-
auo4 AI 观察 用户
Moondream 3 开源视觉语言模型:9B 参数仅 2B 激活,32K 上下文把视觉理解塞进小模型
2026 年 10 月 15 日,Moondream 一次性放出 Moondream 3 系列的两个版本——3 Preview 与 3.1,全部开放权重。它们用 9B 总参数、约 2B 激活的混合专家(MoE)结构,在 32K 上下文里做视觉语言理解,把过去要大模型才扛得动的看图问答、目标检测、OCR 能力,压到了"小模型速度、低成本部署"的区间。
参数与架构:小而专的 MoE
Moondream 3 系列走的是"小而专"路线。两个版本都是 9B 总参数、约 2B 激活的 MoE 架构,上下文窗口 32K,最大输出 4K token。这种"总参大、激活小"的设计,让它在保持参数量带来的知识容量的同时,把每次推理的计算开销压到接近一个小稠密模型。
模态上是标准的 text + image → text:吃一张图(或截图、文档图)加一段文字,吐出文字回答。模型支持 reasoning(推理)与 non-reasoning(非推理)两种模式,可按任务切换。
能力:不只是看图问答
Moondream 3 的核心能力覆盖视觉理解的常见任务:
- 视觉问答(VQA):回答关于图像内容的问题;
- 图像描述(captioning):给图片生成文字说明;
- OCR:从图片、截图、文档里抽取文字;
- 视觉推理:结合图像与逻辑做判断;
- 原生目标检测(object detection)与指向(pointing):直接框出或指出图里的特定物体——这是 3.1 强调的卖点,也是很多小模型不具备的能力。
其中目标检测与 pointing 是 Moondream 3 相对同体量模型更有辨识度的能力:它不是只"描述"图像,而是能在图里定位物体,这对文档解析、界面理解、机器人感知等场景更直接有用。
3 Preview 与 3.1 的区别
两个版本同日发布,共享 32K 上下文和 4K 最大输出,定价也一致(官方 API 为每百万输入 \(0.30、输出 \)2.50;在 OpenRouter / PrimeIntellect 上的最低路线同样是 \(0.3 / \)2.5,比同类平均便宜约 79%)。
差别主要在许可与定位:3 Preview 是更早放出的预览版,带 reasoning 与非 reasoning 两种模式;3.1 是系列里的更新Release,采用 Moondream License(开放权重、自定义许可),把重心放在"以小型稠密模型的推理成本,做高吞吐图像理解"——适合海量、简单的视觉任务,把成本压到最低。
基准与可用性
从第三方目录(如 ModelsAtlas)汇总的代理信号看,Moondream 3 Preview 在常见基准上的大致水位为:MMLU 约 92、HumanEval 约 74、GSM8K 约 78、GPQA 约 74(均为代理信号,非官方提交成绩,真实评测分数通常要等 Epoch AI 等机构发布后才会补全)。
权重已在 Hugging Face 开放:moondream/moondream3-preview 与 moondream/moondream3.1-9B-A2B,采用自定义 Moondream License(开放权重,可下载、自托管、按需微调)。也可以通过 Moondream 官方 API 或 OpenRouter 等托管端点直接调用,且大多提供 OpenAI 兼容接口,切换模型往往只需改一个 model 名字。
定位与边界
Moondream 3 的清晰定位是:低成本、高吞吐的视觉理解。它能自托管,数据不出本地、免按 token 计费,适合视觉问答、图像描述、图像+文本这类任务。对想在自己的机房或端侧跑视觉模型的团队,它是一个轻量、可控的选项。
它的边界同样明确:32K 上下文偏短、4K 最大输出偏短,生成文本的单位成本相对输入更高,因此不适合长文档、超长对话或需要海量输出的场景。把它放在"高频、简单、可规模化"的视觉任务上,性价比最突出。
在一个开源模型密集发布的窗口里,Moondream 3 没有去拼参数量排行榜,而是把"视觉理解能力下放"做扎实——用 MoE 把成本压下来,又保留目标检测这类实用能力。对预算敏感、又需要真能落地的图像理解能力的团队,这是一朵更务实的小模型。