엔비디아, Nemotron 3 Embed 모델 공개 및 RTEB 1위 달성

주장엔비디아는 기업용 검색 증강 생성(RAG)과 에이전트 워크플로우의 효율을 높이기 위해 Nemotron 3 Embed 모델 시리즈를 출시했습니다. 이 모델들은 검색 품질을 개선하고 기업 환경에서 실질적인 배포 선택지를 제공합니다.

팩트Nemotron-3-Embed-8B-BF16 모델은 RTEB(Retrieval-based Evaluation Benchmark) 리더보드에서 전체 1위를 기록했습니다. 해당 모델은 정밀도가 중요한 기업용 검색 증강 생성 작업에 최적화된 플래그십 모델입니다.

팩트Nemotron-3-Embed-1B-BF16 모델은 비용과 지연 시간에 민감한 프로덕션 환경을 위해 설계된 고효율 모델입니다. 이와 함께 1B-NVFP4 모델은 블랙웰(Blackwell) 아키텍처에 최적화되어 초고속 처리와 낮은 메모리 점유율을 지원합니다.

교차검증검색 품질이 낮으면 에이전트가 관련 없는 문맥을 가져오거나 불필요한 재검토를 수행하여 토큰 비용을 낭비하게 됩니다. 이번 모델들은 이러한 검색 오류를 줄여 에이전트의 전체적인 추론 비용을 절감하는 효과를 제공합니다.

팩트Nemotron 3 Embed 모델은 32k 컨텍스트 윈도우를 지원하여 긴 문서와 대규모 코드 저장소, 다중 턴 에이전트 기록을 효과적으로 처리합니다. 또한 다국어 및 코드 검색 기능을 강화하여 글로벌 기업의 데이터 활용도를 높였습니다.

팩트엔비디아는 블랙웰 아키텍처에서 NVFP4 가속을 통해 BF16 대비 최대 2배 높은 처리량을 달성했습니다. NVFP4 변형 모델은 BF16 대비 99% 이상의 검색 정확도를 유지하면서 메모리 사용량을 크게 줄였습니다.

주장이번 모델들은 오픈 웨이트와 데이터셋, 레시피를 제공하여 기업이 자체 인프라에서 모델을 직접 조정하고 배포할 수 있도록 지원합니다. 이는 기업이 외부 의존도를 낮추고 데이터 보안을 유지하며 인공지능을 도입할 수 있는 환경을 조성합니다.

팩트Nemotron-3-Embed-8B-BF16은 RTEB에서 78.5%, MMTEB 검색에서 75.5%의 점수를 기록했습니다. 1B 모델 또한 이전 세대 대비 오류율을 27~28%가량 개선하며 소형 모델의 성능 한계를 극복했습니다.

팩트해당 모델들은 허깅페이스(Hugging Face)를 통해 즉시 이용 가능하며, 엔비디아 NIM 마이크로서비스로 배포할 수 있습니다. 또한 브이엘엘엠(vLLM)을 지원하며 주요 인공지능 클라우드 및 추론 파트너 환경에서 즉시 활용 가능합니다.

주장엔비디아는 이번 모델 공개를 통해 기업이 복잡한 데이터 환경에서도 높은 정확도의 검색 결과를 얻도록 돕습니다. 이는 기업용 인공지능 서비스의 신뢰성을 확보하는 핵심적인 기술적 토대가 됩니다.

교차검증다만 기업은 자체 인프라 환경에 따라 모델의 최적화 수준이 달라질 수 있습니다. 도입 전 자사 시스템과의 호환성 및 하드웨어 요구 사양을 면밀히 검토해야 합니다.

출처엔비디아 공식 블로그(https://huggingface.co/blog/nvidia/nemotron-3-embed-wins-rteb)를 통해 2026년 7월 16일 발표된 기술 사양 및 벤치마크 데이터를 교차 검증했습니다.