NVIDIA가 2026년 7월 16일, 프로덕션 규모의 검색 워크플로우를 겨냥한 Nemotron 3 Embed 모델군을 공개했다. 이번 모델은 검색 증강 생성(RAG) 및 에이전트 메모리 활용을 목적으로 설계됐으며, 8B 대표 모델과 배포 환경에 따라 최적화된 1.14B 모델 등 총 세 가지 버전으로 구성된다. 이 중 Nemotron-3-Embed-8B-BF16 모델은 Retrieval-based Evaluation Benchmark(RTEB)에서 78.5%를, MMTEB 검색 벤치마크에서는 75.5%의 점수를 기록하며 현재 1위에 올랐다.

리소스 제약이 있는 환경을 위해 1.14B BF16 모델과 1.14B NVFP4 변형 모델도 함께 제공된다. 특히 NVFP4 모델은 Blackwell GPU 아키텍처를 위해 네이티브 4비트 양자화를 적용했다. 그 결과 BF16 버전 대비 최대 2배 높은 처리량을 구현하면서도, 검색 정확도는 99% 수준을 유지한다. 해당 모델들은 32k 컨텍스트 윈도우를 지원하여 방대한 기술 문서나 다중 파일 코드 저장소, 장기 에이전트 기록을 검색하는 데 유리하다.

모델 개발에는 Ministral-3-8B-Instruct-2512 및 3B-Instruct-2512 베이스 모델이 활용됐다. 1B 규모 모델들은 NVIDIA의 ModelOpt 엔진을 거친 두 번의 구조적 가지치기와 증류 과정을 통해 제작됐다. 현재 미세 조정 및 증류를 위한 오픈 소스 학습 레시피가 공개되었으며, Hugging Face와 NVIDIA NIM 컨테이너를 통해 이용할 수 있다. Automation Anywhere, Boomi, Mem0, You.com 등 주요 기업 파트너들은 해당 모델을 도입하여 시맨틱 검색 및 에이전트 추론 효율을 개선했다고 밝혔다.

NVIDIA가 2026년 7월 16일, 프로덕션 규모의 검색 워크플로우를 겨냥한 Nemotron 3 Embed 모델군을 공개했다. 이번 모델은 검색 증강 생성(RAG) 및 에이전트 메모리 활용을 목적으로 설계됐으며, 8B 대표 모델과 배포 환경에 따라 최적화된 1.14B 모델 등 총 세 가지 버전으로 구성된다. 이 중 Nemotron-3-Embed-8B-BF16 모델은 Retrieval-based Evaluation Benchmark(RTEB)에서 78.5%를, MMTEB 검색 벤치마크에서는 75.5%의 점수를 기록하며 현재 1위에 올랐다.

리소스 제약이 있는 환경을 위해 1.14B BF16 모델과 1.14B NVFP4 변형 모델도 함께 제공된다. 특히 NVFP4 모델은 Blackwell GPU 아키텍처를 위해 네이티브 4비트 양자화를 적용했다. 그 결과 BF16 버전 대비 최대 2배 높은 처리량을 구현하면서도, 검색 정확도는 99% 수준을 유지한다. 해당 모델들은 32k 컨텍스트 윈도우를 지원하여 방대한 기술 문서나 다중 파일 코드 저장소, 장기 에이전트 기록을 검색하는 데 유리하다.

모델 개발에는 Ministral-3-8B-Instruct-2512 및 3B-Instruct-2512 베이스 모델이 활용됐다. 1B 규모 모델들은 NVIDIA의 ModelOpt 엔진을 거친 두 번의 구조적 가지치기와 증류 과정을 통해 제작됐다. 현재 미세 조정 및 증류를 위한 오픈 소스 학습 레시피가 공개되었으며, Hugging Face와 NVIDIA NIM 컨테이너를 통해 이용할 수 있다. Automation Anywhere, Boomi, Mem0, You.com 등 주요 기업 파트너들은 해당 모델을 도입하여 시맨틱 검색 및 에이전트 추론 효율을 개선했다고 밝혔다.