尼莫特龙3超级是开放的权重AI模型,旨在用于多步骤代理任务,混合多项架构创新以获得优于同类的高效和准确性. 以下是从最新技术数据和基准中总结出的10个关键优势

1 大规模,稀少激活
该模型拥有120亿个总参数,但通过MoE架构 (Latent Mixture-of-Experts) 实现每枚代币只激活了12亿个参数,大大降低计算成本

2 1M 本地语境窗口
它自然地支持在文本中提供多达100万个代币,使代理能够保持长期任务状态而无目标漂移.

3 5x 通过量提升
推断吞吐率是比之前的Nemotron Super高5倍,尤其是在Blackwell B200 GPU上

4 顶级智能指数
它领先人工分析智能指数3637点,超越GPT-OSS-120B (33分) 等开放型号,仅次于Qwen3 5 122B等较大的模型.

 

Nemotron 3 Super NVIDIA’s New Open Agentic Powerhouse
 

5 代理业绩优秀的基准
代理特异测试突出:PinchBench 85% (6%在开放同行中排名最高),SWE-Bench与OpenHands 60 47%,MMLU-Pro 83 73%,和TauBench V2 61 15%

6多代币预测
多代币预测 (MTP) 每次传输多个代币的预测,使得可推测解码能够加速代码生成和结构化任务高达3倍

7 有效的潜伏MOE
潜在MoE在专家路由之前压缩了代币,激活了4倍多的专家,以相同的计算成本为单独Python/SQL专家等专业领域的专家.

8 NVFP4 预训练效率
布莱克韦尔在NVFP4 (4位浮动) 在Blackwell上从头开始训练,它减少了内存需求并提高了推理4x FP8上的H100的推理效率,而没有精度损失.

9 强大的多环境RL
通过多环境RL在NeMo Gym的NemoGym上进行培训,21个设置中与1 2M+部署,确保复杂代理工作流中的稳定行为.

10 完全开源
模型重量,数据集和训练/考验配方都在NVIDIA Nemotron开放型号许可证下开放,可从 Hugging Face 下载并通过 NIM,vLLM或TensorRT-LLM运行.

这个图形说明了混合Mamba-Transformer-MoE架构核心的基因,以显示Nemotron 3 Super 的效率

Related and Recommended Articles: