네모트론 3 슈퍼 (Nemotron 3 Super) 는 다단계 에이전티 작업에 설계된 개방형 AI 모델로, 여러 가지 건축 혁신을 결합하여 상급의 효율성과 정확성을 위해 다양한 구조적 혁신을 혼합해 개발한 멀티 스테이프 에이전티 업무용으로 구성되어 있으며, 동급보다 뛰어난 효율성 및 정확성을 확보하고 있다. 최신 기술 데이터와 벤치마킹에서 요약된 10가지 주요 강점들을 소개한다

1 대대 규모, 희박 활성화
이 모델은 총 120억 개의 매개 변수를 특징으로 하지만 MoE (Latent Mixture-of-Experts) 아키텍처를 통해 토큰 당 12억 개만 활성화하고, 컴퓨팅 비용을 크게 절감한다.

2 1M 네이티브 컨텍스트 창
자연적으로 1백만 개에 이르는 토큰을 컨텍스트에서 지원하며, 에이전트들이 목표 이동 없이 장기적인 작업 상태를 유지할 수 있도록 한다

3 5x 투러퓨트 부스트
인퍼런스 처리량은 이전 네모트론 슈퍼보다 5배나 더 높으며, 특히 블랙웰 B200 GPU에 적용된다.

4 최고의 지능 지수
인공 분석 지능 지수 3637점으로 인공분석지능 지수를 이끌고 있으며, GPT-OSS-120B (33점) 와 같은 개방형 모델을 뛰어넘는 등 Qwen3 5 122B과 같은 큰 모델에 뒤쳐진다.

 

Nemotron 3 Super NVIDIA’s New Open Agentic Powerhouse
 

5 에이전트 벤치마크 우수성
에이전트 특수한 테스트는 다음과 같이 선명합니다: 핑크 벤치 85% 6% (공개 동료 중 최고), SWE-벤치 60 47%, MMLU-프로 83 73%, 타우벤치 V2 61 15%

6 다중 토큰 예측
멀티 토큰 예측 (MTP) 은 패스당 여러 토큰을 예측하여, 코드 생성 및 구조화된 작업을 최대 3x 가속화하는 투기적 해독 기능을 제공합니다.

7 효율성 잠복 모E
잠복 MoE는 전문가 라우팅 전에 토큰을 압축하여 4x 더 많은 전문가를 활성화시켜 다른 Python/SQL 전문가와 같은 특화된 도메인에서 동일한 컴퓨팅 비용으로

8 NVFP4 프리트레이닝 효율성
블랙웰에서 NVFP4 (4비트 플로이트) 에서 처음부터 미리 훈련된, 메모리의 필요를 줄이고 정확성 손실 없이 H100의 FP8보다 추론을 4x 향상시킵니다.

9 견고한 다환경 RL
21개의 설정에 걸쳐 NeMo Gym에서 1 2M+의 롤아웃을 통해 21개 설정을 통해 멀티-환경 RL를 통해 훈련되었으며, 복잡한 에이전트 작업 흐름에서의 안정적인 행동을 보장합니다.

10 완전히 오픈 소스
모델 무게, 데이터 집합 및 훈련/대원적 레시피는 NVIDIA Nemotron 오픈 모델 라이선스에 따라 공개되어 있으며 Hugging Face에서 다운로드 할 수 있으며 NIM, vLLM 또는 TensorRT-LLM을 통해 실행할 수 있습니다.

이 도표는 하이브리드 Mamba-Transformer-MoE 아키텍처의 핵심을 Nemotron 3 Super의 효율에 대한 설명이다.