Nemotron 3 Super là một mô hình AI trọng lượng mở được thiết kế cho các nhiệm vụ đại lý nhiều bước, kết hợp nhiều đổi mới kiến trúc để hiệu quả và độ chính xác vượt trội so với đồng nghiệp trong lớp của nó. Dưới đây là 10 điểm mạnh chính tổng hợp từ dữ liệu kỹ thuật và tiêu chuẩn mới nhất:

1 Massive Scale, Sparse Activation
Mô hình này có tổng số tham số 120 tỷ, nhưng chỉ kích hoạt 12 tỉ mỗi token thông qua kiến trúc MoE (Late Mixture-of-Experts), cắt giảm chi phí tính toán đáng kể.

2 1M Native Context Window
Nó hỗ trợ lên đến 1 triệu mã thông báo trong bối cảnh một cách tự nhiên, cho phép các đại lý duy trì trạng thái nhiệm vụ lâu dài mà không có sự trôi dạt mục tiêu.

3 5x Thúc đẩy công suất truyền tải
Tỷ lệ thông lượng suy luận cao hơn 5 lần so với Nemotron Super trước đó, đặc biệt là trên GPU Blackwell B200

4 Chỉ số trí tuệ hàng đầu
Nó dẫn đầu chỉ số Trí tuệ phân tích nhân tạo với 3637 điểm, vượt qua các mô hình mở như GPT-OSS-120B (33 điểm) và chỉ sau những người lớn hơn như Qwen3 5 122B

5 Điểm chuẩn xuất sắc của cơ quan
Các thử nghiệm cụ thể của đại lý nổi bật: PinchBench 85 6% (tốt nhất trong số các đồng nghiệp mở), SWE-Bench với OpenHands 60 47%, MMLU-Pro 83 73% và TauBench V2 61 15%

6 Multi-Token Prediction
Multi-Token Prediction (MTP) dự đoán nhiều mã thông báo cho mỗi lần vượt qua, cho phép giải mã suy đoán tăng tốc quá trình tạo mã và các nhiệm vụ có cấu trúc lên đến 3x

7 hiệu quả ngưng MoE
Latent MoE có thể nén các token trước khi Expert Routing, kích hoạt 4 lần nhiều chuyên gia với cùng chi phí tính toán cho các lĩnh vực chuyên môn như Python / SQL riêng biệt.

8 NVFP4 hiệu quả huấn luyện trước
Được huấn luyện từ đầu trong NVFP4 (4 bit float) trên Blackwell, nó cắt giảm nhu cầu bộ nhớ và tăng tính suy luận 4x hơn FP8 trên H100 mà không mất độ chính xác

9 RL nhiều môi trường mạnh mẽ
Được đào tạo thông qua Multi-environment RL trên NeMo Gym trên 21 thiết lập với 1 2M+ triển khai, đảm bảo hành vi ổn định trong các luồng công tác đại lý phức tạp

10 Quý vị nguồn mở hoàn toàn
Trọng lượng mô hình, bộ dữ liệu và các công thức đào tạo/đánh giá được mở dưới NVIDIA Nemotron Open Model License, có thể tải xuống từ Hugging Face và chạy qua NIM, vLLM hoặc TensorRT-LLM

Biểu đồ này minh họa cho thấy cốt lõi kiến trúc Mamba-Transformer-MoE hybrid của tâm đến hiệu suất Nemotron 3 Super.