NVIDIA, Nemotron 3.5 모델군 확대
- •NVIDIA, 전문 에이전트용 오픈 1,200억 매개변수 Nemotron 3.5 Super VL 출시
- •Super VL, 동급 모델보다 작업 완료 속도 5배 빠르다고 NVIDIA 밝혀
- •Bolt 모델은 로컬·엣지용…학습 26조 토큰·후속 학습 표본 380만 개 활용
NVIDIA가 전문 분야에서 상시 작동하는 에이전트용 오픈 모델 Nemotron 3.5 Super VL과 엣지 모델 2종을 출시했습니다. 두 엣지 모델은 Nemotron 3.5 Bolt 74B-A9B 24GB와 Bolt E4B 4GB입니다. Super VL과 Bolt 74B-A9B는 현재 이용할 수 있고, Bolt E4B는 10월 23일 출시 예정입니다. NVIDIA는 세 모델이 기업 서버부터 엣지 기기와 로컬 하드웨어까지 폭넓은 환경에서 배포될 수 있다고 밝혔습니다.
Super VL은 지시 수행, 도구 사용, 여러 단계로 이어지는 업무 흐름, 시각 정보 이해를 처리합니다. NVIDIA에 따르면 이 모델은 멀티모달 에이전트 작업에서 자사 최대 추론 모델과 비슷한 정확도를 내며, 매개변수 수는 약 5분의 1입니다. 또한 같은 등급에서 차순위 모델보다 작업을 5배 빠르게 완료한다고 NVIDIA는 밝혔습니다. 조직은 자체 데이터로 후속 학습을 하고 자체 인프라에서 실행할 수 있습니다.
Bolt 74B-A9B는 NVIDIA RTX와 DGX Spark에서 로컬 에이전트 작업을 수행하도록 설계됐습니다. 기본 2비트 양자화(모델 값을 더 적은 비트로 저장하는 방식)를 적용해 24GB 메모리에 들어가며, 다른 애플리케이션과 함께 실행할 수 있습니다. NVIDIA는 이 모델이 PinchBench에서 동급 오픈 모델 1위, BrowseComp에서 2위라고 밝혔습니다. Bolt E4B는 GeForce RTX, Jetson, RTX/DGX Spark용으로 설계됐으며, 대화와 여러 차례 주고받는 에이전트 기능을 결합해 로컬 음성 비서, 대화형 캐릭터, 내장형 인터페이스에 쓰입니다.
NVIDIA는 수십 개 조직이 Super VL을 맞춤화하고 있다고 밝혔습니다. Scale AI는 Skydance와 EY를 위한 공급업체 신용 금융 및 인수·합병 실사 에이전트에 맞춰 후속 학습을 했고, AfterQuery는 Hebbia의 신용 계약 분석용으로 맞춤화했습니다. AI21과 Alice는 사이버 보안 공격 대응력을 연구했습니다. Mercor는 코딩 벤치마크 APEX-SWE에 맞춰 후속 학습을 했으며, ModelScope는 ms-swift를 통한 미세 조정을 지원합니다. 그 밖에 Ramp는 금융 문서 분석, Dream은 사이버 보안 연구, Lila Sciences는 과학적 발견과 검색, R1은 의료 보험 청구 분석에 모델을 활용합니다. TrainLoop는 Nolla의 피부과 데이터를 사용해 후속 학습을 했으며, NVIDIA는 Nolla가 AI의 환자 초진 처방 작성 승인을 받은 첫 기업이 됐다고 밝혔습니다.
Super VL을 통합하는 소프트웨어 기업으로는 Jira와 Confluence 검색을 위한 Atlassian, 기업 보안을 위한 CrowdStrike, 엔지니어링 설계와 시뮬레이션을 위한 Dassault Systèmes, 검색과 에이전트 작업을 위한 Perplexity가 있습니다. Salesforce는 Missionforce Operations를 통해 정부용 보안 업무 흐름에, Synopsys는 반도체 설계 검증에 모델을 통합합니다. 모델은 웹페이지와 PDF의 글, 표, 차트, 구조화된 정보를 읽고 통찰을 제공할 수 있습니다. NVIDIA는 텍스트와 시각 정보를 함께 처리해 별도 시스템 사이에서 작업을 넘기지 않고도 맥락을 유지한다고 설명했습니다.
Super VL은 오픈 가중치, 데이터셋, 학습 절차와 함께 제공됩니다. NVIDIA는 약 26조 토큰으로 모델을 학습한 뒤 약 380만 개 표본과 수십 개 환경에서의 강화학습으로 후속 학습했다고 밝혔습니다. 에이전트의 도구 사용, 금융, 지시 수행, 긴 문맥, 공정성, 시각·언어 이해 데이터셋과 NeMo Gym의 강화학습 환경도 공개합니다. 모델은 Hugging Face, Open Router, ModelScope, NVIDIA NIM에서 이용할 수 있습니다. NVIDIA에 따르면 NVIDIA Dynamo를 쓰면 조직은 최대 8배 많은 사용자에게 서비스를 제공하면서 지연시간을 85% 줄일 수 있습니다. Super VL은 DGX Spark, DGX Station, RTX PRO 및 RTX 시스템, Jetson, 데이터센터, 클라우드 환경에서 작동합니다. Bolt 74B-A9B는 Hugging Face에서 제공되며 llama.cpp, Ollama, LM Studio, Unsloth, vLLM을 지원합니다. NVIDIA RTX Spark 노트북은 10월 16일 출시 예정입니다.