Vera Rubin NVL72、AgentPerf初結果で最大5.7倍
- •Artificial AnalysisがVera Rubin NVL72の初期AA-AgentPerf結果を公開し、4モデルでGB300 NVL72と比較
- •DeepSeek V4 Proでは、ユーザー当たり約190トークン/秒の条件で、消費電力1メガワット当たりの処理量が最大約5.7倍
- •72基のGPUと36基のCPUを搭載するシステムが、DeepSeek V4.1 Flashで906、GLM-5.2で408、Kimi K3で255トークン/秒の最高記録
Artificial Analysisは2026年10月15日、NVIDIAのVera Rubin NVL72に関するAA-AgentPerfの初期結果を公開しました。DeepSeek V4 Pro、DeepSeek V4.1 Flash、GLM-5.2、Kimi K3の4モデルで、GPU電力1メガワット当たりのトークン処理量をGB300 NVL72と比較しています。ユーザー当たりの出力速度を指定した条件では、Vera Rubinの処理量はDeepSeek V4 Proで最大約5.7倍、DeepSeek V4.1 Flashで約5.4倍、GLM-5.2で約3.0倍、Kimi K3で約2.8倍でした。結果は初期段階で、NVIDIAは今後の最適化によって性能が向上すると見込んでいます。
Vera Rubin NVL72は、72基のRubin GPUと36基のVera CPUを1つのNVLinkドメインにまとめたラック規模のシステムです。GB300 NVL72も同じ基数を採用しています。各GPUは288GBのHBM4メモリー、毎秒19.2TBのメモリー帯域幅、毎秒3.0TBのNVLink帯域幅を備え、密な計算で35ペタFLOPS、疎な計算で50ペタFLOPSのNVFP4性能を示します。Blackwell Ultraの公表値は、288GBのHBM3E、毎秒8TB、毎秒1.8TB、密な計算で15ペタFLOPS、疎な計算で20ペタFLOPSです。VeraのCPUは88コアで、Graceの72コアを上回ります。スーパーチップ当たりのCPU・GPU間NVLink-C2C帯域幅も、Veraは毎秒1.8TBで、Graceの毎秒0.9TBの2倍です。測定したGPU電力はVera Rubinが0.5~1.9kW、GB300が0.3~1.0kWで、CPU、ネットワーク、冷却の電力は含みません。
電力1メガワット当たりのピーク処理量は、Vera RubinがDeepSeek V4 Proで毎秒2億7,200万トークン、DeepSeek V4.1 Flashで5億7,100万トークン、GLM-5.2で2億7,200万トークン、Kimi K3で7,000万トークンでした。GB300のピーク値に対して、それぞれ1.14倍、1.45倍、1.35倍、1.26倍です。ユーザー当たりの速度が高い条件では差が広がり、DeepSeek V4 Proを約165トークン/秒で処理した場合、Vera Rubinは1メガワット当たり毎秒1億7,400万トークン、GB300は3,400万トークンで、5.1倍の差でした。約190トークン/秒では差が約5.7倍に達しました。ユーザー当たり約120から約165トークン/秒に上げると、電力当たりのGB300処理量は81%低下した一方、Vera Rubinの低下は16%でした。約165トークン/秒の条件では、同じGPU電力でVera Rubinが処理するDeepSeek V4 Proのトークン数は約5倍です。
報告されたVera Rubinの最高設定では、DeepSeek V4.1 Flashがユーザー当たり毎秒906トークン、GLM-5.2が408トークン、Kimi K3が255トークンに達し、各モデルのリーダーボード最高値となりました。毎秒906トークンは、4モデルを通じても最速です。DeepSeek V4.1 Flashの電力当たりピーク処理量は毎秒5億7,100万トークンで、B300の4億3,300万、GB300の3億9,500万を上回りました。ただし、Vera RubinでのDeepSeek V4.1 Flashの回答上限は2,048トークンで、他のリーダーボード結果の上限16,384トークンとは異なります。約2%の回答が上限に達し、平均回答長も275~301トークンで、他の結果の319~335トークンより短いものでした。DeepSeek V4 Proでは、ユーザー当たり約165トークン/秒の条件で、Vera Rubinの最初のトークンが出るまでの中央値は1.65秒、GB300は1.08秒でした。この待ち時間を含めると、ほとんどの速度条件でGB300の電力当たり処理量がVera Rubinと同等か上回ります。
Artificial Analysisは、Vera RubinとGB300の試験構成が似ていることから、測定された性能差の大半はラック機器の更新によるもので、初期のRubin専用カーネルと調整も寄与したと説明しています。NVIDIAの構成では、GPUメモリーとCPUメモリー間でKVキャッシュを転送し、オープンソースの推論基盤Dynamoを使ってセッションを考慮したリクエスト振り分けを行います。多くの処理では、入力処理と出力生成のワーカーを分け、バッチサイズに合わせてドラフト長を調整する投機的デコーディングも使います。さらに、Rubin向けに調整したNVFP4カーネルと、最大13万2,000トークンの会話に合わせたホスト側のリクエスト処理を採用しています。測定値はGPU電力1メガワット当たりの入力・出力トークン総処理速度で、計上トークンの約96%はキャッシュ済み入力です。ユーザー当たり出力速度はリクエスト全体の25パーセンタイルで、最初のトークンまでの時間を含みません。