Artificial Analysis는 2026년 10월 15일 NVIDIA Vera Rubin NVL72의 초기 AA-AgentPerf 결과를 공개했습니다. DeepSeek V4 Pro, DeepSeek V4.1 Flash, GLM-5.2, Kimi K3 등 4개 모델에서 GPU 전력 1메가와트당 토큰 처리량을 GB300 NVL72와 비교했습니다. 사용자당 출력 속도를 일정 수준으로 맞췄을 때 Vera Rubin의 전력당 처리량은 DeepSeek V4 Pro에서 최대 약 5.7배, DeepSeek V4.1 Flash에서 약 5.4배, GLM-5.2에서 약 3.0배, Kimi K3에서 약 2.8배였습니다. 초기 측정치이며 NVIDIA는 추가 최적화가 이뤄지면 성능이 개선될 것으로 예상한다고 밝혔습니다.

Vera Rubin NVL72는 Rubin GPU 72개와 Vera CPU 36개를 하나의 NVLink 도메인으로 연결한 랙 단위 시스템으로, GB300 NVL72와 GPU 수가 같습니다. 각 GPU는 HBM4 메모리 288GB, 메모리 대역폭 초당 19.2TB, NVLink 대역폭 초당 3.0TB를 갖췄으며, 밀집형 NVFP4 연산 성능은 35페타플롭스, 희소형은 50페타플롭스입니다. 비교 대상인 Blackwell Ultra의 사양은 HBM3E 288GB, 초당 8TB, 초당 1.8TB, 밀집형 15페타플롭스, 희소형 20페타플롭스입니다. Vera CPU는 88개 코어로 Grace의 72개보다 많으며, 슈퍼칩 하나에서 CPU와 GPU 사이 NVLink-C2C 대역폭은 초당 1.8TB로 Grace의 초당 0.9TB보다 높습니다. 측정된 GPU 전력은 Vera Rubin 구성에서 0.5~1.9킬로와트, GB300 구성에서 0.3~1.0킬로와트였으며 CPU, 네트워킹, 냉각 전력은 포함하지 않았습니다.

전력당 최대 처리량은 Vera Rubin에서 DeepSeek V4 Pro 초당 2억7,200만 토큰, DeepSeek V4.1 Flash 5억7,100만 토큰, GLM-5.2 2억7,200만 토큰, Kimi K3 7,000만 토큰이었습니다. 이는 각 모델에서 GB300의 최고치보다 각각 1.14배, 1.45배, 1.35배, 1.26배 높은 수치입니다. 사용자당 속도가 높을수록 차이가 커졌습니다. DeepSeek V4 Pro의 사용자당 속도가 초당 약 165토큰일 때 Vera Rubin은 메가와트당 초당 1억7,400만 토큰을 처리해 GB300의 3,400만 토큰보다 5.1배 많았고, 초당 약 190토큰에서는 격차가 약 5.7배로 나타났습니다. 사용자당 속도가 초당 약 120토큰에서 165토큰으로 오를 때 GB300의 전력당 처리량은 81% 감소한 반면 Vera Rubin은 16% 감소했습니다. 초당 약 165토큰 조건에서 같은 GPU 전력으로 처리한 DeepSeek V4 Pro 토큰은 Vera Rubin이 약 5배 많았습니다.

Vera Rubin 구성의 최고 사용자당 출력 속도는 DeepSeek V4.1 Flash에서 초당 906토큰, GLM-5.2에서 408토큰, Kimi K3에서 255토큰으로, 각 모델 순위표에서 가장 높은 기록이었습니다. 초당 906토큰은 4개 모델을 통틀어 순위표에서 가장 빠른 결과입니다. DeepSeek V4.1 Flash의 전력당 최고 처리량은 초당 5억7,100만 토큰으로 B300의 4억3,300만, GB300의 3억9,500만보다 높았습니다. 다만 NVIDIA의 Vera Rubin Flash 응답은 출력 2,048토큰으로 제한됐고, 다른 순위표 결과는 16,384토큰을 사용했습니다. 응답 약 2%가 제한에 도달했으며 평균 응답 길이는 275~301토큰으로, 다른 결과의 319~335토큰보다 짧았습니다. DeepSeek V4 Pro에서 사용자당 속도가 초당 약 165토큰일 때 Vera Rubin의 첫 토큰까지 걸린 중앙값은 1.65초, GB300은 1.08초였습니다. 이 초기 대기 시간을 포함하면 대부분의 속도 구간에서 GB300의 전력당 처리량이 Vera Rubin과 같거나 높았습니다.

Artificial Analysis는 테스트한 Vera Rubin과 GB300 구성이 비슷한 점을 근거로, 측정된 성능 차이의 대부분이 개선된 랙 하드웨어에서 비롯됐다고 분석했습니다. 초기 Rubin 전용 커널과 튜닝도 함께 적용됐습니다. NVIDIA 구성은 GPU 메모리와 CPU 메모리 사이의 KV 캐시 전송, 오픈소스 Dynamo 서빙 프레임워크를 통한 세션 인식 요청 라우팅, 여러 작업에서 사전 입력 처리와 토큰 생성 작업자의 분리, 배치 크기에 맞춘 초안 길이의 투기적 디코딩을 사용했습니다. 또한 Rubin에 맞춘 NVFP4 커널과 최대 13만2,000토큰 대화에 맞춘 호스트 측 요청 처리도 적용했습니다. 결과는 GPU 전력 1메가와트당 입력·출력 토큰 총 처리량으로 측정했으며, 집계 토큰의 약 96%는 캐시된 입력입니다. 사용자당 출력 속도는 요청별 속도의 25백분위값이며 첫 토큰까지 걸린 시간은 제외합니다.

Artificial Analysis는 2026년 10월 15일 NVIDIA Vera Rubin NVL72의 초기 AA-AgentPerf 결과를 공개했습니다. DeepSeek V4 Pro, DeepSeek V4.1 Flash, GLM-5.2, Kimi K3 등 4개 모델에서 GPU 전력 1메가와트당 토큰 처리량을 GB300 NVL72와 비교했습니다. 사용자당 출력 속도를 일정 수준으로 맞췄을 때 Vera Rubin의 전력당 처리량은 DeepSeek V4 Pro에서 최대 약 5.7배, DeepSeek V4.1 Flash에서 약 5.4배, GLM-5.2에서 약 3.0배, Kimi K3에서 약 2.8배였습니다. 초기 측정치이며 NVIDIA는 추가 최적화가 이뤄지면 성능이 개선될 것으로 예상한다고 밝혔습니다.

Vera Rubin NVL72는 Rubin GPU 72개와 Vera CPU 36개를 하나의 NVLink 도메인으로 연결한 랙 단위 시스템으로, GB300 NVL72와 GPU 수가 같습니다. 각 GPU는 HBM4 메모리 288GB, 메모리 대역폭 초당 19.2TB, NVLink 대역폭 초당 3.0TB를 갖췄으며, 밀집형 NVFP4 연산 성능은 35페타플롭스, 희소형은 50페타플롭스입니다. 비교 대상인 Blackwell Ultra의 사양은 HBM3E 288GB, 초당 8TB, 초당 1.8TB, 밀집형 15페타플롭스, 희소형 20페타플롭스입니다. Vera CPU는 88개 코어로 Grace의 72개보다 많으며, 슈퍼칩 하나에서 CPU와 GPU 사이 NVLink-C2C 대역폭은 초당 1.8TB로 Grace의 초당 0.9TB보다 높습니다. 측정된 GPU 전력은 Vera Rubin 구성에서 0.5~1.9킬로와트, GB300 구성에서 0.3~1.0킬로와트였으며 CPU, 네트워킹, 냉각 전력은 포함하지 않았습니다.

전력당 최대 처리량은 Vera Rubin에서 DeepSeek V4 Pro 초당 2억7,200만 토큰, DeepSeek V4.1 Flash 5억7,100만 토큰, GLM-5.2 2억7,200만 토큰, Kimi K3 7,000만 토큰이었습니다. 이는 각 모델에서 GB300의 최고치보다 각각 1.14배, 1.45배, 1.35배, 1.26배 높은 수치입니다. 사용자당 속도가 높을수록 차이가 커졌습니다. DeepSeek V4 Pro의 사용자당 속도가 초당 약 165토큰일 때 Vera Rubin은 메가와트당 초당 1억7,400만 토큰을 처리해 GB300의 3,400만 토큰보다 5.1배 많았고, 초당 약 190토큰에서는 격차가 약 5.7배로 나타났습니다. 사용자당 속도가 초당 약 120토큰에서 165토큰으로 오를 때 GB300의 전력당 처리량은 81% 감소한 반면 Vera Rubin은 16% 감소했습니다. 초당 약 165토큰 조건에서 같은 GPU 전력으로 처리한 DeepSeek V4 Pro 토큰은 Vera Rubin이 약 5배 많았습니다.

Vera Rubin 구성의 최고 사용자당 출력 속도는 DeepSeek V4.1 Flash에서 초당 906토큰, GLM-5.2에서 408토큰, Kimi K3에서 255토큰으로, 각 모델 순위표에서 가장 높은 기록이었습니다. 초당 906토큰은 4개 모델을 통틀어 순위표에서 가장 빠른 결과입니다. DeepSeek V4.1 Flash의 전력당 최고 처리량은 초당 5억7,100만 토큰으로 B300의 4억3,300만, GB300의 3억9,500만보다 높았습니다. 다만 NVIDIA의 Vera Rubin Flash 응답은 출력 2,048토큰으로 제한됐고, 다른 순위표 결과는 16,384토큰을 사용했습니다. 응답 약 2%가 제한에 도달했으며 평균 응답 길이는 275~301토큰으로, 다른 결과의 319~335토큰보다 짧았습니다. DeepSeek V4 Pro에서 사용자당 속도가 초당 약 165토큰일 때 Vera Rubin의 첫 토큰까지 걸린 중앙값은 1.65초, GB300은 1.08초였습니다. 이 초기 대기 시간을 포함하면 대부분의 속도 구간에서 GB300의 전력당 처리량이 Vera Rubin과 같거나 높았습니다.

Artificial Analysis는 테스트한 Vera Rubin과 GB300 구성이 비슷한 점을 근거로, 측정된 성능 차이의 대부분이 개선된 랙 하드웨어에서 비롯됐다고 분석했습니다. 초기 Rubin 전용 커널과 튜닝도 함께 적용됐습니다. NVIDIA 구성은 GPU 메모리와 CPU 메모리 사이의 KV 캐시 전송, 오픈소스 Dynamo 서빙 프레임워크를 통한 세션 인식 요청 라우팅, 여러 작업에서 사전 입력 처리와 토큰 생성 작업자의 분리, 배치 크기에 맞춘 초안 길이의 투기적 디코딩을 사용했습니다. 또한 Rubin에 맞춘 NVFP4 커널과 최대 13만2,000토큰 대화에 맞춘 호스트 측 요청 처리도 적용했습니다. 결과는 GPU 전력 1메가와트당 입력·출력 토큰 총 처리량으로 측정했으며, 집계 토큰의 약 96%는 캐시된 입력입니다. 사용자당 출력 속도는 요청별 속도의 25백분위값이며 첫 토큰까지 걸린 시간은 제외합니다.