Googleのエンジニアであるトッド・リプコンとマニッシュ・プロヒットは、ワークロードの需要に応じてキャッシュメモリサイズを動的に調整し、クラウドインフラのコストを最小化する「線形弾性キャッシュ」を導入した。このアプローチでは、メモリをサイズと期間に応じてコストが発生するユーティリティとして扱い、スキーレンタル問題を応用することで、データをRAMに保持し続けるか、メモリ料金の発生を避けるために破棄するかを決定する。

従来のキャッシュ管理は、固定のメモリ割り当てや「最近最も使われていないデータから破棄する（LRU）」といった静的な方針に依存しており、リソースの非効率な使用を招くことが多かった。線形弾性キャッシュ手法は、機械学習モデルを用いて各リクエストのキャッシュページに対し最適なTTL値を割り当てる。これにより、メモリのフットプリントとキャッシュミスによるレイテンシのペナルティのバランスを最適化する。

Googleのグローバル分散データベースであるSpanner内でのテストでは、大きな運用の改善が示された。この実装により、キャッシュミスは5.5%増加したものの、メモリ使用量は15.5%削減された。その結果、キャッシュインフラのTCOは概ね5%低下した。アルゴリズムがコストを考慮しているため、キャッシュミスのわずかな増加は主に取得コストの低いデータに集中しており、全体的なI/Oコストへの影響は0.5%と無視できるレベルであった。

Googleの内部インフラ以外への適用可能性を確保するため、チームは最適化されたGDSFアルゴリズムをベースラインとして公開キャッシュトレースを用いた評価を行った。予測に軽量な浅い決定木を使用することで、1秒間に数十億件のリクエストを処理する場合でもシステムは高いパフォーマンスを維持する。研究は、クラウド環境が細分化された従量課金モデルへシフトする中で、インフラの中核にシンプルな機械学習モデルを適用することが経済的効率を大幅に改善できる可能性を示唆している。

Googleのエンジニアであるトッド・リプコンとマニッシュ・プロヒットは、ワークロードの需要に応じてキャッシュメモリサイズを動的に調整し、クラウドインフラのコストを最小化する「線形弾性キャッシュ」を導入した。このアプローチでは、メモリをサイズと期間に応じてコストが発生するユーティリティとして扱い、スキーレンタル問題を応用することで、データをRAMに保持し続けるか、メモリ料金の発生を避けるために破棄するかを決定する。

従来のキャッシュ管理は、固定のメモリ割り当てや「最近最も使われていないデータから破棄する（LRU）」といった静的な方針に依存しており、リソースの非効率な使用を招くことが多かった。線形弾性キャッシュ手法は、機械学習モデルを用いて各リクエストのキャッシュページに対し最適なTTL値を割り当てる。これにより、メモリのフットプリントとキャッシュミスによるレイテンシのペナルティのバランスを最適化する。

Googleのグローバル分散データベースであるSpanner内でのテストでは、大きな運用の改善が示された。この実装により、キャッシュミスは5.5%増加したものの、メモリ使用量は15.5%削減された。その結果、キャッシュインフラのTCOは概ね5%低下した。アルゴリズムがコストを考慮しているため、キャッシュミスのわずかな増加は主に取得コストの低いデータに集中しており、全体的なI/Oコストへの影響は0.5%と無視できるレベルであった。

Googleの内部インフラ以外への適用可能性を確保するため、チームは最適化されたGDSFアルゴリズムをベースラインとして公開キャッシュトレースを用いた評価を行った。予測に軽量な浅い決定木を使用することで、1秒間に数十億件のリクエストを処理する場合でもシステムは高いパフォーマンスを維持する。研究は、クラウド環境が細分化された従量課金モデルへシフトする中で、インフラの中核にシンプルな機械学習モデルを適用することが経済的効率を大幅に改善できる可能性を示唆している。