Halley, 광학 AI 네트워크 장애 예측

연구자 마나브 미슈라(Manav Mishra)와 크리슈나 M. 시발링엄(Krishna M. Sivalingam)은 11월 3일 AI 데이터센터 광학 네트워크를 위한 예측 제어 프레임워크 Halley를 발표했습니다. Halley는 장비 고장을 예측해 네트워크 자원을 미리 조정하며, 구성 요소에 대한 형식적 보장을 제공합니다. 논문은 이 방식이 유효 처리량을 높이고 일정한 학습량에 필요한 용량을 줄인다고 밝혔습니다.

AI 학습 클러스터는 전용 네트워크로 수만 개의 가속기를 연결하며, 장치는 학습 단계마다 데이터를 주고받습니다. 랙 사이 광 링크는 레이저부터 스위치까지 네 계층으로 구성되지만, 논문에 따르면 일반적으로 고정 정책이나 사후 대응 정책을 씁니다. 같은 장비함의 레이저는 냉각과 전력을 공유해 고장이 함께 발생할 수 있습니다. 예비 장비 비율이 고정되면 이런 상관 고장 때문에 레이저 풀이 아무리 커도 가용성에 한계가 생깁니다.

Halley는 네 구성 요소로 작동합니다. LightReserve는 정해진 보장 범위를 충족하도록 레이저 풀 규모를 정하고, FoldFit은 최적 방식의 11/9 이내 성능으로 스위치를 스케줄링합니다. ThermaLead는 마이크로링 장치를 한 단계 앞서 제어하며, TriageGuard는 위험이 가장 높은 모듈을 먼저 보호합니다. 각 계층은 예측이 불확실하면 배포된 기존 정책에 맡깁니다. 시뮬레이션에서 예비 용량을 모두 써 창 전체가 손실되는 조건의 유효 처리량은 65.2%에서 76.5%로 높아졌고, 어두워진 채널만 대역폭을 잃는 조건에서는 67.4%에 이르렀습니다. 논문은 메가와트당 학습량이 최대 1.03–1.17배가 되거나, 같은 학습에 필요한 데이터센터 용량이 3.3–14.7% 줄어든다고 보고했습니다. Halley의 대체 회로는 형식 검증을 거쳤고, 상용 FPGA에서 근접한 타이밍 성능을 달성했으며 130nm 사인오프를 통과했습니다.

연구자 마나브 미슈라(Manav Mishra)와 크리슈나 M. 시발링엄(Krishna M. Sivalingam)은 11월 3일 AI 데이터센터 광학 네트워크를 위한 예측 제어 프레임워크 Halley를 발표했습니다. Halley는 장비 고장을 예측해 네트워크 자원을 미리 조정하며, 구성 요소에 대한 형식적 보장을 제공합니다. 논문은 이 방식이 유효 처리량을 높이고 일정한 학습량에 필요한 용량을 줄인다고 밝혔습니다.

AI 학습 클러스터는 전용 네트워크로 수만 개의 가속기를 연결하며, 장치는 학습 단계마다 데이터를 주고받습니다. 랙 사이 광 링크는 레이저부터 스위치까지 네 계층으로 구성되지만, 논문에 따르면 일반적으로 고정 정책이나 사후 대응 정책을 씁니다. 같은 장비함의 레이저는 냉각과 전력을 공유해 고장이 함께 발생할 수 있습니다. 예비 장비 비율이 고정되면 이런 상관 고장 때문에 레이저 풀이 아무리 커도 가용성에 한계가 생깁니다.

Halley는 네 구성 요소로 작동합니다. LightReserve는 정해진 보장 범위를 충족하도록 레이저 풀 규모를 정하고, FoldFit은 최적 방식의 11/9 이내 성능으로 스위치를 스케줄링합니다. ThermaLead는 마이크로링 장치를 한 단계 앞서 제어하며, TriageGuard는 위험이 가장 높은 모듈을 먼저 보호합니다. 각 계층은 예측이 불확실하면 배포된 기존 정책에 맡깁니다. 시뮬레이션에서 예비 용량을 모두 써 창 전체가 손실되는 조건의 유효 처리량은 65.2%에서 76.5%로 높아졌고, 어두워진 채널만 대역폭을 잃는 조건에서는 67.4%에 이르렀습니다. 논문은 메가와트당 학습량이 최대 1.03–1.17배가 되거나, 같은 학습에 필요한 데이터센터 용량이 3.3–14.7% 줄어든다고 보고했습니다. Halley의 대체 회로는 형식 검증을 거쳤고, 상용 FPGA에서 근접한 타이밍 성능을 달성했으며 130nm 사인오프를 통과했습니다.