SK하이닉스는 12일부터 15일까지 미국 캘리포니아주 새너제이에서 열린 OCP 글로벌 서밋 2026에 참가해 차세대 메모리 솔루션과 메모리 중심 AI 서버 시스템을 공개했습니다. 데이터센터 하드웨어의 설계와 사양을 공유·표준화하는 이 컨퍼런스에서는 AI 인프라 기술이 주요 의제로 떠올랐습니다. SK하이닉스는 준비 중인 솔루션을 시스템 수준에서 시연했습니다.

회사는 CXL 3.2 기반 2세대 CMM-DDR5 256GB 제품을 선보였습니다. CXL은 CPU·GPU와 메모리 등을 연결하는 인터페이스 규격입니다. 여러 서버가 필요한 만큼 나눠 쓰는 메모리 풀을 지원하는 이 제품은 이전 세대보다 대역폭이 2배 이상인 80GB/s로 늘었고, 에너지 효율은 약 30% 개선됐습니다. CXL Pooled 기능도 적용해 데이터 집약적인 고부하 환경의 병목 완화를 목표로 합니다. SK하이닉스는 지난해 9월 네이버클라우드와 업무협약을 맺은 뒤 CXL 메모리로 클라우드 AI 서비스의 병목을 줄이는 공동 작업을 이어왔습니다. 이번에는 에이전틱 AI 환경의 KV 캐시 공유와 옴니모달 서비스 OmniServe의 임베딩 공유를 PoC 단계에서 검증한 결과를 공개했습니다.

전시한 MARS(Memory Centric AI Rack System)는 메모리를 중심으로 여러 파트너사의 솔루션을 하나의 랙에 통합하는 시스템입니다. Arcee, Liqid, Marvell과 진행한 데모에서는 CXL 풀드 메모리로 여러 서버와 GPU를 연결하고 KV 캐시를 전달하거나 재사용했습니다. SK하이닉스는 이 방식이 네트워크 통신을 사용하는 기존 방식보다 시스템 성능을 높였다고 밝혔습니다. AMD, Penguin, Xcena, Arcee와의 데모에서는 CXL 메모리와 하이브리드 메모리를 활용해 메모리 랙이 대규모 KV 캐시를 저장하고 재사용하는 모습을 보였습니다. 기존 대화와 작업 이력에 따라 필요한 KV 캐시를 예측하고, 이를 미리 D램으로 가져와 처리하며, 전체 캐시는 SSD에 저장해 빠른 읽기와 대용량 저장을 함께 구현할 수 있음을 확인했습니다. 개인 AI 에이전트 업체 Pickle과는 풀드 메모리 기반 스트리밍으로 여러 AI 모델 간 데이터 전달을 가속해 사용자에게 결과를 더 빨리 전하는 데모를 진행했습니다.

CMM-Ax는 메모리 안에서 직접 연산해 데이터 이동을 줄이는 솔루션입니다. SK하이닉스는 ‘Efficient Long Context LLM Serving’ 데모에서 이 제품으로 기존 GPU 기반 시스템이 처리하기 어려웠던 긴 문맥을 효율적으로 가속할 수 있다고 제시했습니다. 관련 연구는 컴퓨터 아키텍처 학회 MICRO 2026에 채택됐습니다.

메모리 제품 전시에는 eSSD와 서버 D램 제품군이 포함됐습니다. eSSD는 고성능 PS1010 U.2, 개발 중인 PS1110 E3.S와 고용량 PS1101 E3.S, 액체냉각을 지원하는 PEB210 E1.S와 PEB210 M.2 2280 등으로 구성됐습니다. 서버 D램으로는 256GB 3DS RDIMM과 96GB·64GB DDR5 RDIMM, 128GB DDR5 MRDIMM, 전력·공간 효율을 높인 192GB SOCAMM2를 전시했습니다.

HBM 전시에서는 NVIDIA의 베라 루빈 슈퍼칩 모형과 함께 HBM4 및 SOCAMM2를 서버 모형에 장착해 볼 수 있게 했습니다. 실물 HBM4E, HBM4, HBM3 제품도 세대별로 배치하고, TSV와 어드밴스드 MR-MUF 기술을 소개했습니다. HBF는 HBM과 같은 TSV 기술을 적용한 고대역폭 낸드 솔루션으로, 전시 자료는 빠른 응답이 중요한 환경에서 HBM의 처리 속도를, 다수 사용자에게 대용량 메모리를 제공할 때 HBF의 용량을 활용하는 구도를 제시했습니다. 회사는 2013년 세계 최초 HBM 개발 이후의 기술 개발 현황도 소개했습니다.

첫째 날 Executive 세션에서 김호식 부사장은 생성형 AI와 하이퍼스케일 데이터센터의 성장으로 기존 CPU·GPU 중심 구조가 메모리 병목과 전력 소비 증가에 직면했다고 말하고, 메모리 중심 AI 랙 시스템을 해법으로 제안했습니다. 그는 차세대 CXL 기술을 활용한 랙 단위 메모리 풀링과 동적 제로카피 데이터 공유가 고부하 작업의 데이터 이동 속도를 높인다고 설명했습니다. 이 구조로 협업형 에이전틱 AI의 KV 캐시 재사용, 개인용 멀티모달 서비스의 응답 속도 개선, 대규모 GNN 학습의 불규칙한 메모리 접근 문제 해결을 지원할 수 있다고 덧붙였습니다.

셋째 날 패널 토의에서는 PIM·PNM 관련 업체 간 소프트웨어 프레임워크와 API 통합, 고객과 제품을 잇는 프레임워크의 중요성 및 표준화 필요성을 논의했습니다. 같은 날 실무진 발표에서는 공유 메모리를 이용한 토큰·KV 캐시 공유, 토큰화와 캐시 데이터 분석 연산의 메모리 오프로딩을 통한 에이전틱 AI 서비스 성능 향상 가능성이 소개됐습니다. 펜실베이니아 주립대학교 맹기완 교수와 민영훈 TL은 연산 기능을 탑재한 메모리로 차등 개인정보보호 학습의 추가 연산과 데이터 이동을 줄여 학습 속도와 에너지 효율을 높이는 시스템 구조를 발표했습니다. 이주희 TL은 스토리지를 성능 계층으로 활용하는 LLM 서빙을 발표했습니다. 회사는 실제 시스템에서 차세대 메모리 솔루션의 작동을 보였으며 메모리 중심 AI 기술 혁신을 이어가겠다고 밝혔습니다.

SK하이닉스는 12일부터 15일까지 미국 캘리포니아주 새너제이에서 열린 OCP 글로벌 서밋 2026에 참가해 차세대 메모리 솔루션과 메모리 중심 AI 서버 시스템을 공개했습니다. 데이터센터 하드웨어의 설계와 사양을 공유·표준화하는 이 컨퍼런스에서는 AI 인프라 기술이 주요 의제로 떠올랐습니다. SK하이닉스는 준비 중인 솔루션을 시스템 수준에서 시연했습니다.

회사는 CXL 3.2 기반 2세대 CMM-DDR5 256GB 제품을 선보였습니다. CXL은 CPU·GPU와 메모리 등을 연결하는 인터페이스 규격입니다. 여러 서버가 필요한 만큼 나눠 쓰는 메모리 풀을 지원하는 이 제품은 이전 세대보다 대역폭이 2배 이상인 80GB/s로 늘었고, 에너지 효율은 약 30% 개선됐습니다. CXL Pooled 기능도 적용해 데이터 집약적인 고부하 환경의 병목 완화를 목표로 합니다. SK하이닉스는 지난해 9월 네이버클라우드와 업무협약을 맺은 뒤 CXL 메모리로 클라우드 AI 서비스의 병목을 줄이는 공동 작업을 이어왔습니다. 이번에는 에이전틱 AI 환경의 KV 캐시 공유와 옴니모달 서비스 OmniServe의 임베딩 공유를 PoC 단계에서 검증한 결과를 공개했습니다.

전시한 MARS(Memory Centric AI Rack System)는 메모리를 중심으로 여러 파트너사의 솔루션을 하나의 랙에 통합하는 시스템입니다. Arcee, Liqid, Marvell과 진행한 데모에서는 CXL 풀드 메모리로 여러 서버와 GPU를 연결하고 KV 캐시를 전달하거나 재사용했습니다. SK하이닉스는 이 방식이 네트워크 통신을 사용하는 기존 방식보다 시스템 성능을 높였다고 밝혔습니다. AMD, Penguin, Xcena, Arcee와의 데모에서는 CXL 메모리와 하이브리드 메모리를 활용해 메모리 랙이 대규모 KV 캐시를 저장하고 재사용하는 모습을 보였습니다. 기존 대화와 작업 이력에 따라 필요한 KV 캐시를 예측하고, 이를 미리 D램으로 가져와 처리하며, 전체 캐시는 SSD에 저장해 빠른 읽기와 대용량 저장을 함께 구현할 수 있음을 확인했습니다. 개인 AI 에이전트 업체 Pickle과는 풀드 메모리 기반 스트리밍으로 여러 AI 모델 간 데이터 전달을 가속해 사용자에게 결과를 더 빨리 전하는 데모를 진행했습니다.

CMM-Ax는 메모리 안에서 직접 연산해 데이터 이동을 줄이는 솔루션입니다. SK하이닉스는 ‘Efficient Long Context LLM Serving’ 데모에서 이 제품으로 기존 GPU 기반 시스템이 처리하기 어려웠던 긴 문맥을 효율적으로 가속할 수 있다고 제시했습니다. 관련 연구는 컴퓨터 아키텍처 학회 MICRO 2026에 채택됐습니다.

메모리 제품 전시에는 eSSD와 서버 D램 제품군이 포함됐습니다. eSSD는 고성능 PS1010 U.2, 개발 중인 PS1110 E3.S와 고용량 PS1101 E3.S, 액체냉각을 지원하는 PEB210 E1.S와 PEB210 M.2 2280 등으로 구성됐습니다. 서버 D램으로는 256GB 3DS RDIMM과 96GB·64GB DDR5 RDIMM, 128GB DDR5 MRDIMM, 전력·공간 효율을 높인 192GB SOCAMM2를 전시했습니다.

HBM 전시에서는 NVIDIA의 베라 루빈 슈퍼칩 모형과 함께 HBM4 및 SOCAMM2를 서버 모형에 장착해 볼 수 있게 했습니다. 실물 HBM4E, HBM4, HBM3 제품도 세대별로 배치하고, TSV와 어드밴스드 MR-MUF 기술을 소개했습니다. HBF는 HBM과 같은 TSV 기술을 적용한 고대역폭 낸드 솔루션으로, 전시 자료는 빠른 응답이 중요한 환경에서 HBM의 처리 속도를, 다수 사용자에게 대용량 메모리를 제공할 때 HBF의 용량을 활용하는 구도를 제시했습니다. 회사는 2013년 세계 최초 HBM 개발 이후의 기술 개발 현황도 소개했습니다.

첫째 날 Executive 세션에서 김호식 부사장은 생성형 AI와 하이퍼스케일 데이터센터의 성장으로 기존 CPU·GPU 중심 구조가 메모리 병목과 전력 소비 증가에 직면했다고 말하고, 메모리 중심 AI 랙 시스템을 해법으로 제안했습니다. 그는 차세대 CXL 기술을 활용한 랙 단위 메모리 풀링과 동적 제로카피 데이터 공유가 고부하 작업의 데이터 이동 속도를 높인다고 설명했습니다. 이 구조로 협업형 에이전틱 AI의 KV 캐시 재사용, 개인용 멀티모달 서비스의 응답 속도 개선, 대규모 GNN 학습의 불규칙한 메모리 접근 문제 해결을 지원할 수 있다고 덧붙였습니다.

셋째 날 패널 토의에서는 PIM·PNM 관련 업체 간 소프트웨어 프레임워크와 API 통합, 고객과 제품을 잇는 프레임워크의 중요성 및 표준화 필요성을 논의했습니다. 같은 날 실무진 발표에서는 공유 메모리를 이용한 토큰·KV 캐시 공유, 토큰화와 캐시 데이터 분석 연산의 메모리 오프로딩을 통한 에이전틱 AI 서비스 성능 향상 가능성이 소개됐습니다. 펜실베이니아 주립대학교 맹기완 교수와 민영훈 TL은 연산 기능을 탑재한 메모리로 차등 개인정보보호 학습의 추가 연산과 데이터 이동을 줄여 학습 속도와 에너지 효율을 높이는 시스템 구조를 발표했습니다. 이주희 TL은 스토리지를 성능 계층으로 활용하는 LLM 서빙을 발표했습니다. 회사는 실제 시스템에서 차세대 메모리 솔루션의 작동을 보였으며 메모리 중심 AI 기술 혁신을 이어가겠다고 밝혔습니다.