NVIDIA Nemotron 3.5 Super VL이 추론과 맞춤화를 위해 Baseten에서 이용 가능해졌다고 양사는 10월 15일 발표했습니다. 개방형 120B-A12B 모델은 문서, 이미지, 애플리케이션 화면, 영상으로 작업하는 에이전트에 시각적 이해와 추론, 도구 사용 기능을 결합합니다. 개발자는 Baseten의 Dedicated API와 Model API로 모델을 평가한 뒤 Loops로 맞춤화할 수 있습니다.

이 모델은 1,200억 개 매개변수를 갖춘 전문가 혼합 구조로, 토큰마다 120억 개 매개변수를 활성화합니다. Nemotron 3 Super 아키텍처를 기반으로 하며, 긴 문맥을 처리하기 위해 Mamba와 Transformer 구성 요소를 결합했습니다. 다중 토큰 예측은 텍스트 생성을 빠르게 하도록 설계됐습니다. NVIDIA는 NVFP4 KV 캐시 양자화가 긴 문맥 추론에 필요한 메모리를 줄인다고 밝혔습니다. 비전 인코더를 통해 에이전트는 텍스트와 함께 문서 배치와 스크린샷 등 시각 자료를 해석할 수 있습니다.

NVIDIA가 공개한 텍스트 벤치마크 결과에서 Nemotron 3.5 Super VL은 GDPval AA V2.1에서 1,190 엘로를 받아 Nemotron 3 Super의 493점을 웃돌았습니다. SciCode에서는 정확도 47.3%로 기존 40.8%보다 높았고, GPQA-diamond에서는 90.8%로 79.4%를 기록한 모델보다 높았습니다. 세 벤치마크는 각각 전문 업무, 과학 코딩, 대학원 수준 과학 질문을 평가합니다.

Baseten Loops는 모델 출시일에 학습 지원을 추가했습니다. Loops는 지도 미세 조정과 강화학습을 위한 Baseten의 관리형 서비스입니다. 학습 작업은 Python 스크립트와 Loops SDK로 실행하며, 분산 학습과 GPU 인프라는 Baseten이 운영합니다. Loops에서 Nemotron 3 Super 또는 Nemotron 3 Ultra를 학습 중인 팀은 도구를 바꾸지 않고 기본 모델을 전환한 뒤, 학습된 체크포인트를 Baseten에 배포할 수 있습니다. Baseten은 이 모델이 고객 서비스, 문서 지능화, 기업 생산성, 웹 조사에 적합하다고 밝혔습니다.

NVIDIA Nemotron 3.5 Super VL이 추론과 맞춤화를 위해 Baseten에서 이용 가능해졌다고 양사는 10월 15일 발표했습니다. 개방형 120B-A12B 모델은 문서, 이미지, 애플리케이션 화면, 영상으로 작업하는 에이전트에 시각적 이해와 추론, 도구 사용 기능을 결합합니다. 개발자는 Baseten의 Dedicated API와 Model API로 모델을 평가한 뒤 Loops로 맞춤화할 수 있습니다.

이 모델은 1,200억 개 매개변수를 갖춘 전문가 혼합 구조로, 토큰마다 120억 개 매개변수를 활성화합니다. Nemotron 3 Super 아키텍처를 기반으로 하며, 긴 문맥을 처리하기 위해 Mamba와 Transformer 구성 요소를 결합했습니다. 다중 토큰 예측은 텍스트 생성을 빠르게 하도록 설계됐습니다. NVIDIA는 NVFP4 KV 캐시 양자화가 긴 문맥 추론에 필요한 메모리를 줄인다고 밝혔습니다. 비전 인코더를 통해 에이전트는 텍스트와 함께 문서 배치와 스크린샷 등 시각 자료를 해석할 수 있습니다.

NVIDIA가 공개한 텍스트 벤치마크 결과에서 Nemotron 3.5 Super VL은 GDPval AA V2.1에서 1,190 엘로를 받아 Nemotron 3 Super의 493점을 웃돌았습니다. SciCode에서는 정확도 47.3%로 기존 40.8%보다 높았고, GPQA-diamond에서는 90.8%로 79.4%를 기록한 모델보다 높았습니다. 세 벤치마크는 각각 전문 업무, 과학 코딩, 대학원 수준 과학 질문을 평가합니다.

Baseten Loops는 모델 출시일에 학습 지원을 추가했습니다. Loops는 지도 미세 조정과 강화학습을 위한 Baseten의 관리형 서비스입니다. 학습 작업은 Python 스크립트와 Loops SDK로 실행하며, 분산 학습과 GPU 인프라는 Baseten이 운영합니다. Loops에서 Nemotron 3 Super 또는 Nemotron 3 Ultra를 학습 중인 팀은 도구를 바꾸지 않고 기본 모델을 전환한 뒤, 학습된 체크포인트를 Baseten에 배포할 수 있습니다. Baseten은 이 모델이 고객 서비스, 문서 지능화, 기업 생산성, 웹 조사에 적합하다고 밝혔습니다.