AppleはWWDC 26にて、大規模言語モデルや生成AIを完全にデバイス内で実行するための新フレームワーク「Core AI」を公開した。Core MLの後継としてApple Intelligenceの基盤に統合され、iPhone、iPad、Mac、Apple Vision Proを対象に、30億パラメータの軽量モデルから最大700億パラメータの大規模言語モデルまでをサポートする。統一されたAPIを通じて、CPU、GPU、Neural Engine間でシームレスなワークロードの実行が可能だ。

Core AIはメモリ安全性に優れたSwift APIを採用し、ゼロコピーデータパスや推論時のメモリに対する詳細な制御を提供する。また、先行コンパイルを行うAOTコンパイルにより、処理をデバイス外へ移すことでモデルの読み込みを即座に行える。既存のPyTorchモデルは専用ツールでCore AI形式に変換可能であり、量子化やパレッタイゼーションといった最適化手法を用いることで、ディスク容量とメモリ占有量を削減し、推論の遅延および消費電力の低下を実現する。

各モデルは特定のハードウェアおよびOSバージョンに合わせて自動的に最適化され、キャッシュとして保存されることで実行速度が向上する。Appleは、従来の非ニューラルタスクにはCore MLを、ニューラルネットワークやTransformerにはCore AIを、そしてカスタムモデルの研究開発にはMLXの使用を推奨している。今回の発表は、サーバーへの依存を排し、プライバシーを重視したコストゼロの生成AIアプリケーションへの戦略的転換を示すものである。

AppleはWWDC 26にて、大規模言語モデルや生成AIを完全にデバイス内で実行するための新フレームワーク「Core AI」を公開した。Core MLの後継としてApple Intelligenceの基盤に統合され、iPhone、iPad、Mac、Apple Vision Proを対象に、30億パラメータの軽量モデルから最大700億パラメータの大規模言語モデルまでをサポートする。統一されたAPIを通じて、CPU、GPU、Neural Engine間でシームレスなワークロードの実行が可能だ。

Core AIはメモリ安全性に優れたSwift APIを採用し、ゼロコピーデータパスや推論時のメモリに対する詳細な制御を提供する。また、先行コンパイルを行うAOTコンパイルにより、処理をデバイス外へ移すことでモデルの読み込みを即座に行える。既存のPyTorchモデルは専用ツールでCore AI形式に変換可能であり、量子化やパレッタイゼーションといった最適化手法を用いることで、ディスク容量とメモリ占有量を削減し、推論の遅延および消費電力の低下を実現する。

各モデルは特定のハードウェアおよびOSバージョンに合わせて自動的に最適化され、キャッシュとして保存されることで実行速度が向上する。Appleは、従来の非ニューラルタスクにはCore MLを、ニューラルネットワークやTransformerにはCore AIを、そしてカスタムモデルの研究開発にはMLXの使用を推奨している。今回の発表は、サーバーへの依存を排し、プライバシーを重視したコストゼロの生成AIアプリケーションへの戦略的転換を示すものである。