avatar

英伟达开源 Nemotron 3 Nano Omni:权重、数据、训练配方全都放出来了

30B 参数多模态 MoE,权重、训练数据、配方一起开放,许可证也很宽松

avatar
6 months ago

TL;DR:

  • 英伟达把 Nemotron 3 Nano Omni 全套开源了:30B-A3B 混合 MoE,能处理视频、音频、图像、文本,权重、训练数据、配方都放了出来
  • Artificial Analysis 测出来吞吐是 Qwen3-30B 的 3.3 倍,支持 100 万 token 上下文
  • 架构是 Mamba-Transformer 混合的 MoE,只有 3.6B 参数在运行,适合当大型代理系统的感知模块
  • 针对 Ampere/Hopper/Blackwell 做了深度优化,这是优势也是局限——跑在非英伟达硬件上可能会打折扣

英伟达这次发了什么

英伟达把 Nemotron 3 Nano Omni 全套开源了,权重、训练数据、完整训练配方都放了出来。这是个 30B-A3B 的混合 MoE,能吃进视频、音频、图像、文本。英伟达说它在 DocVQA 和 VideoMME 这些任务上比同级别的强。

时机也挺有意思:代理 AI 系统对多模态推理的需求越来越大,但市面上能打的多模态模型大多还是闭源的。英伟达这次连数据带配方一起放出来,跟 OpenAI、Anthropic 的路子明显不一样。

第三方测评(Artificial Analysis 和 Hugging Face)显示,吞吐最高能到 Qwen3-30B 的 3.3 倍;还有 1M token 上下文和 NVFP4 量化,企业高并发场景比较友好。

关键信息:

  • 开放内容:权重、训练数据、训练配方都开放
  • 模型规格:30B-A3B 混合 MoE,支持视频/音频/图像/文本
  • 性能数据:吞吐最高 3.3 倍于 Qwen3-30B;1M token 上下文;NVFP4 量化
  • 跑分结果:英伟达称在 DocVQA、VideoMME 上有优势

我怎么看:

  • 安全性的担忧有点过了:闭源模型一样有漏洞,开源反而让研究者能介入治理。
  • 小团队能跟着玩了:训练配方和数据都开放,算力不够的团队也能在上面做微调。
  • 软硬件闭环在加强:开源多模态 + 深度优化自家 GPU → 开发者用起来 → GPU 卖得更好。

效率和架构

这个模型用的是 Mamba-Transformer 混合的 MoE:30B 总参数里只有约 3.6B 在运行。arXiv 和 DataCamp 的分析说,视频推理的系统容量比替代方案高约 9.2 倍。

工程上的意思是:多模态代理不一定非得靠超大的闭源模型。Nemotron 3 Nano 更像是个"感知子代理",可以跟规划决策类模型(比如 Nemotron 3 Ultra)配合用。

但要注意一点:GPU 侧的专门优化确实让它在 Ampere/Hopper/Blackwell 上跑得快,但想用 AMD/Intel 硬件的用户可能会觉得有点被锁住。

| 谁在关注 | 关注什么 | 意味着什么 | 怎么看 | |---|---|---|---| | 开源社区开发者 | Hugging Face 卡片显示 1M 上下文、比 Qwen3-30B 强的跑分 | 实验成本更低,不用付 API 费 | 采纳应该会很快;开发者等强力开源多模态等很久了 | | 硬件竞品 | 英伟达博客强调 Ampere/Hopper/Blackwell 优化 | 软硬绑定筑起竞争壁垒 | AMD、Intel 在 AI 计算的心智占领上又被拉开了 | | 企业团队 | Artificial Analysis 显示 3.3 倍吞吐提升 | 开源模型能进生产级代理工作流了 | 成本敏感的 CIO 有了闭源 API 之外的选择 | | 闭源实验室 | DataCamp 指标显示对 GPT-OSS-20B 的推理优势 | 开源性能上来了,闭源"黑箱"更难自证合理 | 如果被广泛采用,闭源的定价权会被动收缩 |

总结:

  • 英伟达拿出了一套能打的开源多模态方案,而且给了完整复现路径。
  • 工程优势集中在英伟达 GPU 生态,迁移到其他硬件有不确定性。
  • 对在评估多代理架构的企业团队来说,这个值得认真试一试。

重要性:高
分类:模型发布 / 开源 / 市场影响

判断: 现在还是早期入场阶段;最明确的受益方是以英伟达生态为主的 Builder 和中长期机构投资者,短线交易者的优势有限。