光AIネットワークの障害を予測するHalley

研究者のマナブ・ミシュラ(Manav Mishra)とクリシュナ・M・シヴァリンガム(Krishna M. Sivalingam)は11月3日、AIデータセンター向け光ネットワークの予測制御フレームワーク「Halley」を発表しました。Halleyは機器の故障を予測してネットワーク資源を事前に調整し、各構成要素に形式的な保証を設けています。論文によると、一定量の訓練に必要な容量を抑えながら、実効スループットを高めます。

AI訓練クラスターでは、専用ネットワークを介して数万台のアクセラレーターが接続され、訓練の各段階でデータをやり取りします。ラック間の光リンクはレーザーからスイッチまで4層で構成されますが、論文によると、通常は固定的な制御か、問題発生後の対応に頼っています。同じ筐体内のレーザーは冷却設備や電源を共有するため、故障が同時に起きる場合があります。予備機の比率を固定すると、こうした連動故障によってレーザー群の稼働率に上限が生じ、規模を大きくしても改善しません。

Halleyは4つの構成要素を備えています。LightReserveは必要なカバー率を満たすレーザー群の規模を決め、FoldFitは最適な手法の11/9以内でスイッチをスケジュールします。ThermaLeadはマイクロリング装置を1段階先読みして制御し、TriageGuardは故障リスクが最も高いモジュールを優先して保護します。予測に確信が持てない場合、各層は導入済みの制御方針に従います。

シミュレーションでは、予備容量を使い切ると窓全体の通信が失われる条件で、理想スループットのうち維持できた割合を示すグッドプットが65.2％から76.5％に上昇しました。帯域を失うのが影響を受けた暗チャネルだけの場合は67.4％でした。論文は、電力1メガワット当たりの訓練量が最大1.03～1.17倍になるか、同じ訓練量に必要なデータセンター容量が3.3～14.7％減ると報告しています。Halleyの代替回路は形式検証を受け、商用FPGAで目標に近いタイミング性能を達成し、130ナノメートルの最終設計確認にも合格しました。

研究者のマナブ・ミシュラ(Manav Mishra)とクリシュナ・M・シヴァリンガム(Krishna M. Sivalingam)は11月3日、AIデータセンター向け光ネットワークの予測制御フレームワーク「Halley」を発表しました。Halleyは機器の故障を予測してネットワーク資源を事前に調整し、各構成要素に形式的な保証を設けています。論文によると、一定量の訓練に必要な容量を抑えながら、実効スループットを高めます。

AI訓練クラスターでは、専用ネットワークを介して数万台のアクセラレーターが接続され、訓練の各段階でデータをやり取りします。ラック間の光リンクはレーザーからスイッチまで4層で構成されますが、論文によると、通常は固定的な制御か、問題発生後の対応に頼っています。同じ筐体内のレーザーは冷却設備や電源を共有するため、故障が同時に起きる場合があります。予備機の比率を固定すると、こうした連動故障によってレーザー群の稼働率に上限が生じ、規模を大きくしても改善しません。

Halleyは4つの構成要素を備えています。LightReserveは必要なカバー率を満たすレーザー群の規模を決め、FoldFitは最適な手法の11/9以内でスイッチをスケジュールします。ThermaLeadはマイクロリング装置を1段階先読みして制御し、TriageGuardは故障リスクが最も高いモジュールを優先して保護します。予測に確信が持てない場合、各層は導入済みの制御方針に従います。

シミュレーションでは、予備容量を使い切ると窓全体の通信が失われる条件で、理想スループットのうち維持できた割合を示すグッドプットが65.2％から76.5％に上昇しました。帯域を失うのが影響を受けた暗チャネルだけの場合は67.4％でした。論文は、電力1メガワット当たりの訓練量が最大1.03～1.17倍になるか、同じ訓練量に必要なデータセンター容量が3.3～14.7％減ると報告しています。Halleyの代替回路は形式検証を受け、商用FPGAで目標に近いタイミング性能を達成し、130ナノメートルの最終設計確認にも合格しました。