실리콘 포토닉스와 CPO, AI 데이터 병목 해법

SK하이닉스 뉴스룸의 Tech Note 3편은 한양대학교 ERICA 차세대반도체융합공학부 김영현 교수가 AI 팩토리의 데이터 병목과 실리콘 포토닉스·공동 패키징 광학(CPO)의 역할을 설명합니다. AI 반도체 성능은 개별 GPU의 계산 속도만으로 정해지지 않습니다. 학습 데이터와 모델의 가중치가 메모리에서 제때 도착하고, 여러 GPU가 계산 결과를 주고받는 네트워크가 이를 뒷받침해야 합니다. GPU 연산이 빨라질수록 메모리와 네트워크의 전송 능력이 중요해집니다.

서버 반도체 연결에 쓰이는 구리 배선은 칩 사이처럼 거리가 짧을 때 효율적입니다. 하지만 전기 신호는 속도와 거리가 커질수록 약해지고 서로 간섭하며, 신호를 복원하는 리피터와 보정 회로는 전력을 더 쓰고 열과 냉각 부담을 키웁니다. 광섬유는 서로 다른 파장의 빛에 각기 다른 데이터를 실어 한 가닥으로 동시에 보내는 파장분할다중화(WDM)를 통해 전송 용량을 높일 수 있습니다. 구리는 칩 내부와 짧은 연결에 계속 쓰이고, 광 연결은 데이터센터 랙·건물 사이에서 더 짧은 구간으로 확대되는 역할 분담이 제시됩니다.

실리콘 포토닉스는 빛이 이동하는 광도파로와 빛에 정보를 싣는 변조기, 도착한 빛을 전기 신호로 바꾸는 광검출기를 작은 칩에 구현합니다. 반도체의 미세 가공·대량 생산 방식을 광소자에도 적용해 여러 광경로를 만들고 전자회로 가까이에 집적할 수 있습니다. 다만 실리콘은 빛을 효율적으로 만들기 어려워 통신용 레이저에는 인화인듐 같은 화합물반도체가 쓰입니다. 외부 레이저 광원(ELS)은 레이저를 실리콘 포토닉스 칩 밖에 두어 열이 많은 전자 칩과 분리하고, 교체 가능한 모듈로 유지보수를 쉽게 하는 방식입니다.

공동 패키징 광학(CPO)은 전기 신호와 빛을 바꾸는 광 엔진을 스위치의 주문형반도체(ASIC) 바로 옆, 같은 패키지 기판에 배치합니다. 기존 플러거블 방식은 전면 광모듈을 교체하기 쉽지만 스위치 칩에서 모듈까지 전기 신호가 이동합니다. 스위치 용량과 포트 속도가 높아지면 이 구간의 전력과 신호 품질 부담이 커집니다. CPO는 전기 연결 거리를 줄이고 긴 구간은 광섬유가 맡게 해, 제한된 스위치 면적에서 대역폭 밀도를 높이며 고속 신호 보정 전력을 낮출 여지를 제공합니다. 광소자·전자회로의 공동 설계와 시스템–기술 공동 최적화(STCO)도 필요합니다. 레이저 공급과 광섬유 정밀 연결, ASIC 주변 열에서도 안정적인 작동, 패키지 전체에 영향을 줄 수 있는 불량 및 수율 관리가 과제로 남습니다.

엔비디아와 브로드컴은 CPO 네트워크 제품을 선보이며 상용화에 속도를 내고 있습니다. 메타는 2025년 유럽광통신학술대회(ECOC)에서 CPO 스위치 시스템 평가를 공개했고, 시험에서 광 연결 부분의 전력 소비가 비교 대상인 플러거블 방식보다 약 65% 낮았으며 해당 시험 조건에서 장시간 연결 안정성도 확인했다고 밝혔습니다. 대안인 LPO는 플러거블 구조를 유지하면서 디지털신호처리장치(DSP)를 생략하고, NPO는 광 엔진을 스위치 칩 패키지 가까이에 두되 같은 패키지에 넣지 않습니다. 세 방식은 순차 단계가 아니라 성능·전력 효율·냉각·유지보수 조건에 따라 선택됩니다.

HBM은 GPU 가까이 같은 패키지에 놓여 메모리와의 데이터 이동 거리를 줄이고, CPO는 여러 GPU 시스템을 잇는 네트워크의 전송 효율을 높입니다. HBM이 데이터를 충분히 공급해도 GPU 사이 통신이 막히면 전체 성능을 높이기 어렵습니다. 시스템별 메모리 용량의 부족·유휴 문제를 완화하는 메모리 풀링은 여러 프로세서가 메모리를 큰 자원처럼 나눠 쓰는 방식이며, CXL은 메모리 확장과 풀링을 지원하는 연결 규격입니다. 실리콘 포토닉스 광 연결은 메모리 풀 접근 경로로 활용될 가능성이 있지만, 멀리 있는 메모리에 HBM만큼 빠르게 접근할 수 있는 것은 아닙니다. HBM과 광 연결 메모리 풀을 함께 쓰려면 데이터 배치·이동에 따른 지연과 전력 부담을 검증해야 한다고 글은 설명합니다. 결론적으로 AI 반도체 경쟁력은 GPU 계산 속도뿐 아니라 메모리·네트워크와 광학·패키징·시스템 기술의 결합에 달려 있습니다.

SK하이닉스 뉴스룸의 Tech Note 3편은 한양대학교 ERICA 차세대반도체융합공학부 김영현 교수가 AI 팩토리의 데이터 병목과 실리콘 포토닉스·공동 패키징 광학(CPO)의 역할을 설명합니다. AI 반도체 성능은 개별 GPU의 계산 속도만으로 정해지지 않습니다. 학습 데이터와 모델의 가중치가 메모리에서 제때 도착하고, 여러 GPU가 계산 결과를 주고받는 네트워크가 이를 뒷받침해야 합니다. GPU 연산이 빨라질수록 메모리와 네트워크의 전송 능력이 중요해집니다.

서버 반도체 연결에 쓰이는 구리 배선은 칩 사이처럼 거리가 짧을 때 효율적입니다. 하지만 전기 신호는 속도와 거리가 커질수록 약해지고 서로 간섭하며, 신호를 복원하는 리피터와 보정 회로는 전력을 더 쓰고 열과 냉각 부담을 키웁니다. 광섬유는 서로 다른 파장의 빛에 각기 다른 데이터를 실어 한 가닥으로 동시에 보내는 파장분할다중화(WDM)를 통해 전송 용량을 높일 수 있습니다. 구리는 칩 내부와 짧은 연결에 계속 쓰이고, 광 연결은 데이터센터 랙·건물 사이에서 더 짧은 구간으로 확대되는 역할 분담이 제시됩니다.

실리콘 포토닉스는 빛이 이동하는 광도파로와 빛에 정보를 싣는 변조기, 도착한 빛을 전기 신호로 바꾸는 광검출기를 작은 칩에 구현합니다. 반도체의 미세 가공·대량 생산 방식을 광소자에도 적용해 여러 광경로를 만들고 전자회로 가까이에 집적할 수 있습니다. 다만 실리콘은 빛을 효율적으로 만들기 어려워 통신용 레이저에는 인화인듐 같은 화합물반도체가 쓰입니다. 외부 레이저 광원(ELS)은 레이저를 실리콘 포토닉스 칩 밖에 두어 열이 많은 전자 칩과 분리하고, 교체 가능한 모듈로 유지보수를 쉽게 하는 방식입니다.

공동 패키징 광학(CPO)은 전기 신호와 빛을 바꾸는 광 엔진을 스위치의 주문형반도체(ASIC) 바로 옆, 같은 패키지 기판에 배치합니다. 기존 플러거블 방식은 전면 광모듈을 교체하기 쉽지만 스위치 칩에서 모듈까지 전기 신호가 이동합니다. 스위치 용량과 포트 속도가 높아지면 이 구간의 전력과 신호 품질 부담이 커집니다. CPO는 전기 연결 거리를 줄이고 긴 구간은 광섬유가 맡게 해, 제한된 스위치 면적에서 대역폭 밀도를 높이며 고속 신호 보정 전력을 낮출 여지를 제공합니다. 광소자·전자회로의 공동 설계와 시스템–기술 공동 최적화(STCO)도 필요합니다. 레이저 공급과 광섬유 정밀 연결, ASIC 주변 열에서도 안정적인 작동, 패키지 전체에 영향을 줄 수 있는 불량 및 수율 관리가 과제로 남습니다.

엔비디아와 브로드컴은 CPO 네트워크 제품을 선보이며 상용화에 속도를 내고 있습니다. 메타는 2025년 유럽광통신학술대회(ECOC)에서 CPO 스위치 시스템 평가를 공개했고, 시험에서 광 연결 부분의 전력 소비가 비교 대상인 플러거블 방식보다 약 65% 낮았으며 해당 시험 조건에서 장시간 연결 안정성도 확인했다고 밝혔습니다. 대안인 LPO는 플러거블 구조를 유지하면서 디지털신호처리장치(DSP)를 생략하고, NPO는 광 엔진을 스위치 칩 패키지 가까이에 두되 같은 패키지에 넣지 않습니다. 세 방식은 순차 단계가 아니라 성능·전력 효율·냉각·유지보수 조건에 따라 선택됩니다.

HBM은 GPU 가까이 같은 패키지에 놓여 메모리와의 데이터 이동 거리를 줄이고, CPO는 여러 GPU 시스템을 잇는 네트워크의 전송 효율을 높입니다. HBM이 데이터를 충분히 공급해도 GPU 사이 통신이 막히면 전체 성능을 높이기 어렵습니다. 시스템별 메모리 용량의 부족·유휴 문제를 완화하는 메모리 풀링은 여러 프로세서가 메모리를 큰 자원처럼 나눠 쓰는 방식이며, CXL은 메모리 확장과 풀링을 지원하는 연결 규격입니다. 실리콘 포토닉스 광 연결은 메모리 풀 접근 경로로 활용될 가능성이 있지만, 멀리 있는 메모리에 HBM만큼 빠르게 접근할 수 있는 것은 아닙니다. HBM과 광 연결 메모리 풀을 함께 쓰려면 데이터 배치·이동에 따른 지연과 전력 부담을 검증해야 한다고 글은 설명합니다. 결론적으로 AI 반도체 경쟁력은 GPU 계산 속도뿐 아니라 메모리·네트워크와 광학·패키징·시스템 기술의 결합에 달려 있습니다.