-
auo4 AI 观察 用户
NVIDIA开源Nemotron 3.5:120B视觉智能体Super VL与24GB本地Bolt齐发
10月15日,NVIDIA发布Nemotron 3.5系列两款开放权重模型——Nemotron 3.5 Super VL与Nemotron 3.5 Bolt 74B-A9B 24GB,并预告10月23日推出更小的Bolt E4B 4GB。三款模型共同覆盖从企业级服务器到边缘设备的全栈智能体部署,全部以开放权重、开放数据集与训练配方的形式放出,许可为宽松的OpenMDW-1.1。这是NVIDIA把"开放模型"从数据中心一路推向桌面与笔记本的关键一步。
一、Super VL:以五分之一体量追平旗舰推理模型
Super VL是一个120B总参数、每token激活12B的混合专家(MoE)视觉语言模型,由NVIDIA与Nemotron Coalition联合打造。它融合了Mamba-2、MoE与注意力层,并外接视觉编码器,支持文本与图像、网页、PDF、图表等多模态输入,上下文最长可达100万token。NVIDIA称其为"同级别最快的开放智能体模型",吞吐比同类次优模型快约5倍。
在Artificial Analysis Intelligence Index上,Super VL得分26.5,成为当前领先的美国开放权重模型,小胜Thinking Machines的Inkling Small(25.7),并领先于NVIDIA此前的Nemotron 3 Ultra(23)和Meta的Muse Glimmer(17)。不过在编程与浏览类任务上,它仍略逊于同级别的GLM-5.3-Flash与DeepSeek V4 Flash。NVIDIA自家的模型卡显示:在SWE-bench Verified上Super VL为71.1(Qwen3.5-122B为71.9、DeepSeek V4 Flash为75.4、GLM-5.3-Flash为79.1);在Terminal-Bench 2.1上为66.7(GLM-5.3-Flash达82.7);在BrowseComp上为78(DeepSeek V4 Flash达84.2);在GPQA Diamond上达89.5。它最突出的优势是不确定性下的诚实度——AA-Omniscience幻觉率仅30.0%,远低于DeepSeek V4 Flash的95.9%。
二、Bolt:把智能体塞进24GB显存
Bolt 74B-A9B采用原生2-bit量化,把74B总参数、9B激活参数的模型压进24GB内存,可在RTX/DGX Spark上本地运行,与本地其他应用并行,上下文长度25.6万token。它面向日常智能体任务——从网页调研、写作到调试代码,全部在本地完成,无需把负载发往云端。在PinchBench上它是同级别开放模型第一,BrowseComp同级别开放模型第二。
Bolt E4B 4GB则针对GeForce RTX、Jetson与RTX/DGX Spark上的语音助手与嵌入式智能体,主打自然对话加多轮智能体能力,适用于本地语音助手、交互角色与嵌入式界面,定于10月23日发布。
三、开放到什么程度
三款模型均附带开放权重、开放数据集与训练配方,采用OpenMDW-1.1宽松许可(保留许可与声明即可)。Super VL在Hugging Face、OpenRouter、ModelScope与NVIDIA NIM上可用,支持vLLM、SGLang、TensorRT-LLM在Blackwell与Hopper上部署,本地路径包括llama.cpp与Unsloth;NVIDIA还放出DGX Spark与DGX Station单机方案。Bolt则在Hugging Face提供GGUF,支持llama.cpp、Ollama、LM Studio、Unsloth与vLLM,专为10月16日到来的RTX Spark笔记本设计。
训练侧,Super VL在约26万亿token上完成预训练与继续预训练,再以约380万样本并跨数十个环境做强化学习后训练。NVIDIA同时在Hugging Face放出覆盖智能体工具使用、金融、指令遵循、长上下文、公平性与视觉语言理解的开放数据集,以及NeMo Gym强化学习环境。借助NVIDIA Dynamo,组织可在16张B200上以每秒50 token/用户的速率服务,多服务8倍用户、首token延迟降低85%。
四、谁在用、怎么用
已有数十家组织基于自身数据对Super VL做后训练与定制:Scale AI为Skydance的供应商信用金融智能体、安永(EY)的并购尽调智能体做了定制;AfterQuery为Hebbia的信贷协议分析定制;AI21与Alice针对网络攻击韧性;Mercor在APEX-SWE编程基准上训练出能规划、编写并调试代码的编程智能体。Ramp用于金融文档智能,R1用于医疗理赔与营收周期管理,TrainLoop结合Nolla皮肤科数据训练出首个获准由AI开具初始患者处方的模型。
软件平台侧,Atlassian将其用于Jira、Confluence等应用的智能体搜索;CrowdStrike用于企业安全的智能体蓝队;达索系统(Dassault Systèmes)支撑工程设计与仿真;Perplexity用于搜索与智能体任务;Salesforce通过Missionforce Operations在政务安全工作流中部署智能体;Synopsys的半导体设计验证软件与模型互通。
五、为什么这件事重要
Nemotron 3.5的发布,标志NVIDIA把"开放模型"从数据中心一路铺到桌面:企业可在自有基础设施上后训练、部署、监管自研模型,不必受制于闭源提供商的条款;个人开发者则能在单台RTX PC或笔记本上跑起74B级智能体。对正被算力与成本压制的开源智能体生态而言,Super VL与Bolt提供了兼顾能力与可部署性的新选项,也让"能力"与"可落地"不再是二选一。
(据NVIDIA官方博客、Artificial Analysis与公开模型卡整理)