NVIDIA Nemotron 3.5 Lightning은 2026년 8월 11일 공개된 약 300억 파라미터 오픈 MoE 모델로, 대량 실행형 에이전트에 특화되어 있다. 토큰당 약 30억 파라미터만 활성화해 동급 대비 최대 4배 출력 처리량을 내며, 단일 H100이나 DGX Spark에서 100만 토큰 문맥을 구동한다. NVIDIA는 다중 에이전트 워크플로를 위한 NeMo Switchyard 라우팅 라이브러리와 함께 제공한다.
파라미터
30B (MoE, ~3B active)
컨텍스트
1M
라이선스
NVIDIA Open Model License
출시일
2026-08-11
API 가격
이 모델의 API 가격 정보는 현재 공개되지 않았습니다
강점
- •동급 대비 최대 4배 출력 처리량(에이전트 실행)
- •100만 토큰 문맥 창
- •단일 H100/DGX Spark 구동 가능
- •NeMo Switchyard 다중 에이전트 라우팅 지원
약점
- •추론 품질은 최전선 대형 모델에 미달 가능
- •속도·비용에 최적화되어 생성 품질보다 실행 보조에 주력
- •NVIDIA NeMo 생태계 의존
활용 사례
- •에이전트 워크플로의 도구 호출·검증·서브에이전트 단계
- •사이버 보안 경보 분류
- •금융 리스크 모니터링
- •고객 서비스 자동화