事件经过:一个检查点干四件事
美国时间 2026 年 10 月 28 日,英伟达在 Hugging Face 与 ModelScope 发布开放权重语音模型 Nemotron 3.5 Transcribe,同时公开第二代多语言数据清单与署理管线 Granary v2。与传统 ASR 模型不同,它把语音转写、说话人归属标注、翻译和音频问答收进同一个检查点,用自然语言提示词切换输出形式——同一段会议录音,可以分别要求「转写并标注每位说话人」「把这段音频译成英语」「这次会议做出了哪些决定」。
能力与规格:支持 40 种语言转写,其中 31 种语言可与英语双向互译,13 种语言支持说话人归属标注;单次可处理最长约 1 小时录音,最多区分并标注 8 位说话人,支持词级时间戳。架构上为语音编码器搭配 Mamba–Transformer 混合的混合专家语言模型,官方技术博客口径为约 300 亿总参数、约 40 亿激活参数(部分中文媒体报道为 340 亿 / 43 亿,本文以英伟达技术博客与模型卡为准)。许可为 OpenMDW-1.1。模型面向已录制的音频,官方明确不建议用于实时流式转写;量化版本「即将推出」,届时可跑在 RTX Spark、DGX Spark、Jetson AGX Thor 与 Blackwell 数据中心 GPU 上,当前检查点可通过 NeMo Speech 插件配合 vLLM 部署为兼容 OpenAI API 的服务。
评测表现:在 Hugging Face Open ASR 英语榜以平均词错误率(WER)5.33% 位列开放权重模型第一;模型卡对比中,七种语言平均 WER 4.62%、长音频 WER 10.98%,两项均为参评开放权重模型中最低。Artificial Analysis 非流式 ASR 指数上以约 2.8% 的 AA-WER 与最佳开放权重成绩基本持平,而激活参数量约为后者的六分之一(部分报道表述为约五分之一至八成减少)。David AI 的 21 种语言说话人分离基准中,以 18.26% 的 DER 在 14 个系统中最低。VoiceArena 含重叠语音的 2—8 人英语完整会话评测中,以 32.4% 的 cpWER 排名第一。Cekura 真实通话私有评测中,使用推荐提示词时 WER 为 2.48%,开放权重模型第一。
Granary v2 是这次发布里被低估的一半。它基于 NVIDIA NeMo Curator 构建,公开数据清单覆盖 48 种语言、16 个源语料库、463,062 小时音频(Granary v1 为 25 种语言)。管线为同一段录音生成三种互相对齐的转写形式:tn_raw(文本规范化的逐字稿)、itn_raw(数字等表达书面化但保留口语不流畅)、itn_clean(进一步去除不流畅表达),并产出音频描述、语码混用外来词还原、音频问答对、上下文术语与带质量评分的译文。整理流程分 Metadata、ASR、Text、HiFi 四阶段,含主模型与回退模型的幻觉检查切换。
三类场景:这场开源改变了什么
| 环节 | 此前常见做法 | 这次开源后的做法 |
|---|---|---|
| 转写 + 说话人 + 翻译 | 接三到四个专用 API,各自口径不一致 | 单一检查点、一次前向,靠提示词切换输出 |
| 领域术语(如医疗、金融行话) | 提示词里塞术语表,识别错字依旧改不掉 | 用 Granary v2 管线自己整理数据后微调 |
| 数据合规 / 隐私 | 上传到第三方转写服务 | 权重开放,可选择在本地或自有云完成处理 |
英伟达给出的医疗案例验证了第三条路:先在合成环节把标准书面形式与发音分离(以「HbA1c」为标签、把「H B A one C」送进语音合成器),用约 153 小时合成语音 + 29 小时带口音英语 + 63 小时医疗录音做适配,训练只更新语音编码器与投影层并通过 LoRA 适配语言模型,全流程在一块 NVIDIA GB300 上约 14 GPU 小时。Eka Care 基准全量 WER 从开箱即用的 30.8% 降到提示词优化后的 23.8%、再到微调后的 11.8%;按说话人划分的 2,764 个留出片段上从 22.44% 降到 12.17%,相对降幅 45.8%。
对从业者的影响
做会议纪要、客服质检、庭审与病房录音转写的团队,这是第一次有了免授权费的高质量替代项。建议的验证方式很具体:拿你们自己的录音跑一遍 Granary 推荐提示词,与当前付费服务商的输出做 WER 对比;如果差距主要在行业术语上,再走微调路线,而不是上来就训练。
做产品集成的团队,请注意两条硬限制。一是模型面向离线录音而非实时流式,实时字幕场景当前不适用;二是英伟达自己建议抽读姓名、说话人切换与回答内容——这不是客套,任何语音模型都会在这三类上出错。真正要上线,还需要一层后处理校验。
想省成本的个人与小团队,先算硬件账。开放权重不等于免费:约 300 亿参数的模型至少需要一块数据中心级 GPU 才能顺畅部署,量化版尚未发布。在你自己的机器上跑之前,用 vLLM + NeMo Speech 的官方参数组合试一次,别只看榜单分数。
站长观点
编辑部的判断是:这次发布里更耐久的不是「榜单第一」,而是把数据管线一起开源。开放 ASR 领域过去几年的问题从来不是缺一个好权重,而是缺一套可复现的整理方法——你拿到别人的模型,却拿不到它的训练格式目标,于是任何领域适配都要从零摸索格式。Granary v2 把「目标形态(raw / itn / clean)+ 元数据 + 微调配方」一并给出,等于把控制权限从提示级延伸到训练级。
我们给开发者的取舍建议是:如果你正在评估替换付费转写服务,现在可以做第一轮 PoC;如果你只是想给产品加个语音功能,先别急着自建。理由是部署与维护成本不会因为权重免费而消失:约 300 亿参数模型的显存占用、调度与并发,需要一个专门的人盯着。榜单上的 5.33% WER 是在公开评测集上取得的,你们自己的录音很可能落在 15% 以上——这个差距只能靠你们自己的数据和 Finetune 拉回来。一句话:权重免费,数据依旧昂贵,只是这次英伟达把贵的那一半也给了工具,而不是给了结果。
来源清单
- NVIDIA Blog《Thin, Light and Built for Everything: NVIDIA RTX Spark Windows Laptops Gain New Models, Agent Tools and Games》(2026-10-28)
- NVIDIA 技术文章与 Nemotron 3.5 Transcribe 模型卡(Hugging Face,2026-10-28)
- Granary v2 数据清单与 NeMo Curator 管线教程(GitHub / NVIDIA-NeMo)
- 腾讯新闻·IT之家《英伟达开源最强转录 AI:支持 40 种语言,8 人抢话也能精准转录》(2026-10-29)
- 微信公众号技术解读《NVIDIA 开源 Nemotron 3.5 Transcribe:支持 40 语种转写》(2026-10-29)
- TechCrunch 关于 Nemotron 3.5 Transcribe 的报道(2026-10-29)
核查日期:2026 年 10 月 30 日。参数规模各来源表述存在差异(300 亿 / 340 亿),本文采用英伟达技术博客与模型卡口径;评测分数来自公开榜单当时的快照,榜单每日更新,以 Hugging Face Open ASR 与Artificial Analysis 当前页面为准。
转载请注明:英伟达把语音模型和数据管线一起开源:Nemotron 3.5 Transcribe 单模型覆盖 40 语转写 | 聚合信息网