マイクロソフト、AI推論のエネルギー効率が8〜20倍向上と発表
- •マイクロソフトの研究者がJoule誌に発表した報告書で、AIの推論エネルギー効率が従来の予想より4〜20倍高いことが判明した。
- •一般的なAIクエリ1件あたりの消費電力は0.16〜0.60ワット時、冷却用水の消費量は0.067ミリリットル未満である。
- •モデル最適化、ハードウェア刷新、効率的なオーケストレーションにより、クエリあたりのエネルギー消費を8〜20倍削減することを目指す。
6月15日に学術誌Jouleに掲載されたマイクロソフトの研究者による査読付き論文は、大規模なAI推論が以前の報告よりも4〜20倍エネルギー効率に優れていることを明らかにした。分析によると、大規模言語モデル（LLM）への典型的なクエリは、0.16〜0.60ワット時の電力を消費する。これは40ワットのPCを15〜60秒間稼働させるのと同程度の量である。クエリあたりの水消費量も0.0〜0.067ミリリットルと極めて少なく、1滴に満たない量である。
AIシステムの効率向上は非線形に拡大し、大規模なシステムほどリソースの最適化が図りやすい。1日あたり10億回の会話クエリを処理する場合、ベースラインの消費電力は約0.7ギガワット時（GWh）だが、最適化技術の適用でこれを0.3GWh以下に半減できる。コード生成や多段階推論のような複雑なタスクにおいても、こうした改善は総エネルギー需要の抑制に有効である。
マイクロソフトは効率向上の要因を、モデル最適化、スマートなサービングオーケストレーション、ハードウェアの進化という3つの柱に分類している。Fara-7BやPhiといった特化型モデルと、Azure AI Foundryによるインテリジェントなモデルルーティングを組み合わせることで、エネルギー消費を5〜10倍削減可能だ。また、ディスアグリゲーテッド・サービングのような手法は、長文クエリタスクにおいて最大5倍の消費電力削減を実現する。さらに、Maia 200のようなカスタムハードウェアを含む次世代チップは、従来のGPU基準と比較してクエリあたりのエネルギーを1.5〜2.5倍削減する。
これらの技術を統合することで、研究チームはクエリあたりのエネルギー消費を近いうちに8〜20倍削減できると予測している。この知見は、AIの規模拡大がエネルギーや水消費量の比例的増加を必ずしも必要としないことを示唆する。マイクロソフトは今後も水を使わないデータセンター設計や効率的なプラットフォームの展開を通じ、AI利用の拡大と環境サステナビリティの両立を図る方針だ。