SKハイニックス、メモリー中心のAIサーバーを公開
- •SKハイニックス、OCPグローバルサミット2026で次世代メモリーとメモリー中心のAIラックを公開
- •CXL 3.2対応の256GB CMM-DDR5、帯域幅80GB/sで前世代比2倍超
- •MARSのデモでKVキャッシュを共有・再利用し、長文脈推論とメモリー効率の改善を実演
SKハイニックスは12日から15日まで米カリフォルニア州サンノゼで開かれたOCPグローバルサミット2026に参加し、次世代メモリーソリューションとメモリー中心のAIサーバーシステムを公開しました。データセンター向けハードウェアの設計と仕様を共有・標準化する同会議では、AIインフラ技術が主要議題となりました。同社は準備中のソリューションをシステム全体で実演しました。
同社はCXL 3.2対応の第2世代CMM-DDR5、容量256GBの製品を披露しました。CXLはCPUやGPUなどをメモリーに接続するインターフェース規格です。複数のサーバーが必要な分だけ使えるメモリープールを支えるこの製品は、帯域幅が前世代比2倍超の80GB/sに向上し、エネルギー効率も約30%改善しました。CXL Pooled機能も採用し、データ集約型の高負荷環境でボトルネックを緩和することを目指します。SKハイニックスは昨年9月にNAVER Cloudと業務提携を結んで以降、CXLメモリーでクラウドAIサービスのボトルネックを減らす共同作業を続けています。今回はエージェント型AI環境でのKVキャッシュ共有と、オムニモーダルサービス「OmniServe」での埋め込み共有について、概念実証段階で検証した結果を公開しました。
展示したMARS(Memory Centric AI Rack System)は、メモリーを中心に複数のパートナー企業のソリューションを1つのラックに統合するシステムです。Arcee、Liqid、Marvellとのデモでは、CXLメモリープールで複数のサーバーとGPUを接続し、KVキャッシュを転送または再利用しました。同社は、この方法によってネットワーク通信を使う従来方式よりシステム性能が向上したと説明しました。AMD、Penguin、Xcena、Arceeとのデモでは、CXLメモリーとハイブリッドメモリーを使い、メモリーラックが大規模なKVキャッシュを保存・再利用する様子を示しました。過去の会話や作業履歴に応じて必要なKVキャッシュを予測し、あらかじめDRAMに読み込んで処理する一方、キャッシュ全体はSSDに保存し、高速な読み出しと大容量保存を両立できることを確認しました。個人向けAIエージェント企業Pickleとのデモでは、メモリープールを使ったストリーミングにより複数のAIモデル間のデータ転送を速め、ユーザーに結果をより早く届けました。
CMM-Axはメモリー内で直接演算し、データ移動を減らすソリューションです。SKハイニックスは「Efficient Long Context LLM Serving」のデモで、従来のGPUベースのシステムでは処理が難しかった長い文脈を、同製品で効率よく高速化できると示しました。関連研究はコンピューターアーキテクチャ学会のMICRO 2026に採択されました。
メモリー製品の展示には、eSSDとサーバー向けDRAM製品群も含まれました。eSSDは高性能のPS1010 U.2、開発中のPS1110 E3.Sと大容量のPS1101 E3.S、液冷に対応するPEB210 E1.SおよびPEB210 M.2 2280で構成されました。サーバー向けDRAMとして、256GB 3DS RDIMM、96GB・64GB DDR5 RDIMM、128GB DDR5 MRDIMM、電力と設置スペースの効率を高めた192GB SOCAMM2を展示しました。
HBMの展示では、NVIDIAのVera Rubinスーパーチップの模型とともに、HBM4とSOCAMM2をサーバー模型に取り付けて試せるようにしました。実物のHBM4E、HBM4、HBM製品も世代別に並べ、TSVと先進的なMR-MUF技術を紹介しました。HBFはHBMと同じTSV技術を採用した高帯域幅NANDソリューションです。展示資料は、応答の速さが重要な環境ではHBMの処理速度を、多数の利用者に大容量メモリーを提供する場合はHBFの容量を活用する構成を示しました。同社は2013年に世界で初めてHBMを開発して以降の技術開発状況も紹介しました。
初日のエグゼクティブセッションで、キム・ホシク副社長は、生成AIとハイパースケールデータセンターの成長により、従来のCPU・GPU中心の構成がメモリーボトルネックと電力消費の増加に直面していると述べ、メモリー中心のAIラックシステムを解決策として提案しました。次世代CXL技術を使ったラック単位のメモリープーリングと動的なゼロコピー・データ共有が、高負荷作業でのデータ移動を速めると説明しました。この構成は、協調型エージェントAIでのKVキャッシュ再利用、個人向けマルチモーダルサービスの応答速度向上、大規模GNN学習における不規則なメモリーアクセスの問題解決を支援できると付け加えました。
3日目のパネル討論では、PIM・PNM関連企業間のソフトウェアフレームワークとAPIの統合、顧客と製品を結ぶフレームワークの重要性、標準化の必要性が議論されました。同日の実務担当者による発表では、共有メモリーを使ったトークンとKVキャッシュの共有や、トークン化およびキャッシュデータ分析の演算をメモリーにオフロードすることで、エージェントAIサービスの性能を高められる可能性が示されました。ペンシルベニア州立大学のメン・ギワン教授とミン・ヨンフンTLは、演算機能を備えたメモリーによって差分プライバシー学習の追加演算とデータ移動を減らし、学習速度とエネルギー効率を高めるシステム構成を発表しました。イ・ジュヒTLは、ストレージを性能階層として活用するLLMサービングを発表しました。同社は実システムで次世代メモリーソリューションの動作を実演し、メモリー中心のAI技術革新を続けると述べました。