NVIDIA Nemotron 3 Ultra 모델 총정리 — 미국 오픈소스 AI의 새 정상
⚡ Nemotron 3 Ultra 핵심 요약
- NVIDIA 2026년 6월 4일 공식 출시 — 컴퓨텍스 2026 발표
- 550B 파라미터 MoE, 활성 파라미터 55B (10% 희소성)
- 컨텍스트 창 100만 토큰 — 경쟁 모델 대비 최대 4배
- Kimi K2.6 대비 4.8배 빠른 추론 속도
- 미국 오픈웨이트 모델 지능 지수 1위 (48점)
- OpenMDW-1.1 라이선스 — 가중치·학습데이터·레시피 전체 공개
Nemotron 3 Ultra란 무엇인가
NVIDIA가 2026년 6월 4일 공개한 Nemotron 3 Ultra는 미국 AI 연구소에서 나온 오픈소스 모델 중 현재까지 가장 강력한 성능을 기록한 모델이다. 총 5,500억 개의 파라미터를 갖추고 있지만 실제 추론 시 활성화되는 파라미터는 550억 개로 설계되어, 대형 모델의 지식 용량을 유지하면서도 추론 속도를 극대화했다.
젠슨 황이 컴퓨텍스 2026 무대에서 직접 발표하며 주목을 끌었다. 단순히 벤치마크 수치를 높이는 데 집중한 모델이 아니라, 장기 실행 에이전트 워크플로를 효율적으로 처리하는 것을 설계 목표로 삼았다는 점이 기존 모델들과 구분되는 핵심이다.
핵심 아키텍처 및 스펙
Nemotron 3 Ultra는 Mixture-of-Experts와 Mamba-Transformer 하이브리드 아키텍처를 결합한 구조다. 기존 순수 트랜스포머 모델 대비 긴 컨텍스트를 더 효율적으로 처리할 수 있다. 전문가 모듈은 총 512개이며 토큰당 상위 22개가 활성화된다.
📐 주요 스펙
- 총 파라미터: 5,500억 개 (활성 550억 개)
- 전문가 수: 512개 (토큰당 22개 활성)
- 컨텍스트 창: 100만 토큰
- 학습 토큰: 약 20조 개 (컷오프 2025년 9월)
- 지원 언어: 한국어 포함 12개 자연어 + 43개 프로그래밍 언어
- 라이선스: OpenMDW-1.1 (Linux Foundation)
컨텍스트 창은 100만 토큰을 지원한다. Kimi K2.6의 262,144 토큰 대비 약 4배 넓다. RULER 벤치마크에서 100만 토큰 기준 94.7%의 정확도를 기록해 장문 컨텍스트 처리 능력을 입증했다. 대규모 코드베이스나 방대한 연구 문서를 한 번에 처리해야 하는 에이전트 환경에서 실질적인 차이를 만들어내는 스펙이다.
추론 속도 — 가장 강력한 차별점
추론 속도는 Nemotron 3 Ultra의 가장 강력한 차별점이다. NVFP4 양자화 기반으로 GB200에서 실행 시 Kimi K2.6 대비 4.8배, GLM-5.1 대비 5.9배 높은 처리량을 달성한다. 독립 평가 기관 Artificial Analysis의 실측에서는 초당 140.3 토큰 출력을 기록했고, 사전 출시 파트너 환경에서는 초당 400 토큰 이상도 확인됐다.
에이전트 시스템은 단발성 쿼리가 아니라 수백~수천 번의 연속 호출로 돌아간다. 토큰당 처리 속도의 차이가 전체 작업 완료 시간에 직접적으로 누적된다. NVIDIA는 이 설계로 에이전트 태스크 비용을 최대 30% 낮출 수 있다고 밝히고 있다.
학습 데이터 및 사후학습 방법론
사전학습은 약 20조 토큰 규모로 진행됐다. 다양성 중심 단계 약 15조 토큰과 품질 중심 단계 약 5조 토큰으로 나뉘며, 데이터 컷오프는 2025년 9월이다. NVIDIA는 사전학습 데이터와 레시피를 모두 공개했는데, 데이터 출처 투명성이 필요한 기업·공공 도입 환경에서 중요한 의미를 갖는다.
사후학습에는 Multi-Teacher On-Policy Distillation(MOPD) 기법이 적용됐다. 10개 이상의 도메인 특화 교사 모델이 학생 모델의 출력을 토큰 단위로 평가하고, 교사 모델 자체도 업데이트된 학생 모델로부터 재학습하는 반복 구조다. 기존 강화학습 단독 적용 대비 다양한 도메인에서 더 균형 잡힌 성능 향상을 가능하게 한 핵심 기법이다.
벤치마크 성능 수치
| 벤치마크 | Nemotron 3 Ultra | 비고 |
|---|---|---|
| Intelligence Index (AA) | 48점 | 미국 오픈웨이트 1위 (Kimi K2.6: 54) |
| SWE-Bench Verified | 71.9% | 실제 소프트웨어 엔지니어링 |
| PinchBench (에이전트) | 90.0% | Kimi K2.6 동등 수준 |
| Terminal Bench 2.1 | 56.4% | Kimi K2.6은 66.7% |
| RULER (100만 토큰) | 94.7% | 장문 컨텍스트 검색 정확도 |
| AA-Omniscience 비환각 | 78.7% | 비교 모델 중 최고 |
| IOI 2025 (경쟁 프로그래밍) | 570점 | 상위 3위 인간 수준 |
미국 오픈웨이트 1위는 맞지만, 전 세계 오픈웨이트 기준으로는 Kimi K2.6(54점)이 아직 6점 앞서 있다. 순수 지능 점수 극대화가 최우선이라면 두 모델을 나란히 비교해볼 필요가 있다.
장단점 및 활용 추천 상황
- 동급 최고 추론 속도 (400 tok/s+)
- 100만 토큰 컨텍스트
- 학습 데이터·레시피 완전 공개
- 미국산 오픈 모델 — 규정 준수 유리
- 한국어 포함 12개 언어 공식 지원
- 환각 억제 지표 비교 모델 중 최고
- 글로벌 지능 지수는 Kimi K2.6 대비 6점 낮음
- Terminal Bench에서 Kimi K2.6에 뒤처짐
- 대학원 수준 물리 문제(CritPt) 성능 낮음
- GB200 최적화 — 다른 하드웨어는 속도 차이 있음
- 수백 단계 이상의 장기 에이전트 파이프라인 운용
- 데이터 출처 감사·규정 준수가 필요한 기업·공공 환경
- 법률·의학·금융 도메인 파인튜닝 프로젝트
- 미국산 모델이 필요한 수출 규정 준수 프로젝트
Nemotron 3 Ultra가 특히 강점을 발휘하는 영역은 세 가지다. 첫째, 수백 단계에 걸쳐 실행되는 장기 에이전트 파이프라인이다. 속도와 100만 토큰 컨텍스트가 결합되면 세션 중간에 컨텍스트가 끊기거나 처리 대기가 쌓이는 문제를 줄일 수 있다. 둘째, 데이터 출처 검증이 필요한 기업 및 공공 환경이다. 학습 데이터와 훈련 레시피가 모두 공개되어 있어 감사 및 규정 준수 절차에 대응하기 용이하고, 특히 미국·유럽 기업이 중국 모델 대신 선택할 명분을 가장 명확하게 제공하는 오픈 모델이다. 셋째, 법률·의학·금융 등 특화 도메인 파인튜닝 프로젝트다. SFT 및 RL 데이터 공개와 NeMo 프레임워크 연동 덕분에 도메인 적응 진입 장벽이 낮다. 반면 순수 지능 점수 극대화가 최우선이라면 Kimi K2.6이 여전히 전 세계 오픈웨이트 선두에 있다는 점도 함께 고려해야 한다. 미국 오픈 모델 중 최강이라는 타이틀은 맞지만, 글로벌 기준으로는 도전자 위치라는 것이 현재 시점의 정직한 평가다.
라이선스·배포·이용 방법
라이선스는 Linux Foundation의 OpenMDW-1.1을 적용한다. 모델 가중치, SFT 및 RL 학습 데이터, 훈련 레시피가 모두 공개됐다. 자체 서버 배포는 vLLM, SGLang, TRT-LLM을 통해 가능하다. NVFP4, BF16 인스트럭트, BF16 베이스, GenRM 총 4가지 체크포인트가 제공된다.
클라우드 배포 옵션으로는 AWS SageMaker JumpStart와 BlackBox AI가 공식 파트너로 참여하고 있다. 파인튜닝은 NeMo 라이브러리를 통해 LoRA, SFT, 강화학습 방식을 지원한다.
Nemotron 3 Ultra는 미국에서 나온 오픈웨이트 모델 중 현재 가장 높은 지능 점수를 기록하고 있다. 5배 빠른 추론 속도, 100만 토큰 컨텍스트, 완전 공개된 학습 데이터는 장기 에이전트 인프라를 구축하는 팀에게 실질적인 이점이다. 글로벌 리더보드에서는 아직 중국 모델들이 앞서 있지만, 규정 준수와 투명성이 중요한 엔터프라이즈 환경에서는 가장 현실적인 오픈 대안이 될 수 있다.
'최신 IT 정보' 카테고리의 다른 글
| Kimi K2.6 성능 총정리 — 오픈소스 AI 모델의 새 기준 (0) | 2026.06.20 |
|---|---|
| OpenClaw for Windows로 할 수 있는 작업 총정리 (0) | 2026.06.19 |
| Claude Code Harness 플러그인 — 한 문장으로 에이전트 팀을 자동 생성한다 (0) | 2026.06.18 |
| Reddit이란 무엇이고 왜 AI 개발자들에게 인기가 많을까 (0) | 2026.06.17 |
| Notion AI 초보자 사용 설명서 — 기능과 활용법 완전 정리 (0) | 2026.06.14 |
