Nemotron 3 Super est un modèle d'IA à poids ouvert conçu pour des tâches agentiques en plusieurs étapes, mélangeant de nombreuses innovations architecturales pour une efficacité et une précision supérieures à celles de ses homologues. Voici 10 points forts résumés sur la base des dernières données techniques et benchmarks

1 Échelle massive, activation de sparsité
Le modèle dispose de 120 milliards de paramètres totaux, mais n'active que 12 milliards par jeton via l'architecture MoE (Lateent Mixture-of-Experts), ce qui réduit considérablement les coûts de calcul.

2 1M fenêtre de contexte natif
Il prend en charge jusqu'à 1 million de tokens dans le contexte naturellement, permettant aux agents de maintenir des états de tâche à long terme sans dérive d'objectif

3 5x Boost de débit de traitement
Le débit d'inférence est 5 fois plus élevé que celui du précédent Nemotron Super, en particulier sur les GPU Blackwell B200

4 Indice de l'intelligence le plus élevé
Il est en tête de l'indice d'intelligence artificielle pour l'analyse artificielle avec 3637 points, dépassant des modèles ouverts comme GPT-OSS-120B (33 points) et ne laissant derrière lui que les plus grands tels que Qwen3 5 122B

5 Excellence en termes de référence des agents
Les tests spécifiques aux agents sont les suivants: PinchBench 85 6% (top parmi les pairs ouverts), SWE-Bench avec OpenHands 60 47%, MMLU-Pro 83 73% et TauBench V2 61 15%

6 Prédiction multi-tokens avec des chiffres différents
La prédiction multi-token (MTP) prédit plusieurs tokens par passage, permettant un décodage spéculatif qui accélère la génération de code et les tâches structurées jusqu'à 3x

7 MoE latente efficace (MoE)
Latent MoE comprime les jetons avant le routage expert, activant 4 fois plus d'experts au même coût de calcul pour des domaines spécialisés tels que des experts Python / SQL distincts

8 Efficacité de l'entraînement avant le NVFP4
Prétrainé à partir de zéro dans NVFP4 (4-bit flottant) sur Blackwell, il réduit les besoins en mémoire et augmente l'inférence 4x par rapport à FP8 sur H100 sans perte de précision

9 RL robuste multi-environnement avec des propriétés de détection.
Formé par Multi-environnement RL sur NeMo Gym à travers 21 configurations avec 1 2M+ déploiements, assurant un comportement stable dans des flux de travail complexes d'agents

10 entièrement open source
Les poids des modèles, les ensembles de données et les recettes d'entraînement/éval sont ouverts sous la licence NVIDIA Nemotron Open Model License, téléchargeable depuis Hugging Face et exécutable via NIM, vLLM ou TensorRT-LLM

Ce diagramme illustre le noyau de l'architecture hybride Mamba-Transformateur-MoE basé sur les performances du Nemotron 3 Super.