2026年の動向：新たなAI推論需要に対応するメモリ

2026年1月、NVIDIAは、BlueField-4 DPUによって管理される「CMXコンテキスト・メモリ・ストレージ・プラットフォーム」を発表しました。これは、ローカルSSDと共有ストレージ間のメモリ階層を拡張し、AI推論時代における膨大なKVキャッシュストレージの需要に対応するためのものです。さらに、NVIDIAとArmは、エージェント型AIのCPU要件を満たすため、相次いでCPUラックを発売しており、これによりCPU RAMの新たな市場が創出されています。

当レポートでは、（1）AI推論におけるメモリ需要、（2）KVキャッシュのオフロードによって牽引されるSSD PODの需要、および（3）エージェント型AIによって牽引されるCPU RAMの需要について、詳細な分析を行います。その目的は、AI推論時代においてメモリ容量の需要が拡大している理由を説明し、現在のソリューションを検証するとともに、今後出現するメモリ需要の構造を概説することにあります。

主なハイライト

• NVIDIAは、AI推論における大規模なKVキャッシュのために、ローカルSSDと共有ストレージの間を橋渡しする、BlueField-4 DPU別管理されるCMXプラットフォームを導入しました。
• NVIDIAとArmは、エージェント型AIのCPUニーズを満たすためにCPUラックを発売し、これによりCPUメモリ需要が段階的に増加しています。
• 当レポートでは、AI推論におけるメモリ需要、KVキャッシュのオフロードに伴うSSD PODの需要、およびエージェント型AI別引き起こされるCPUメモリ構造の変化に焦点を当てています。

目次

• 1. AI推論におけるメモリ需要
• 2. SSD PODの需要はKVキャッシュのオフロードにより促進される
• 3.エージェント型AI別CPU需要の増加
• 4. TRIの見解