何が起きたのか
過去数年間、AIインフラ競争は、高速コンピューティングにほぼ必須の要素として、高帯域幅メモリ（HBM）を中心に展開されてきた。
モデルサイズ、コンテキストウィンドウ、推論ワークロードが拡大し続けるにつれ、業界の焦点は、単により多くのメモリを積層することから、メモリとコンピューティング間のデータ移動をより効率的に行うことへと移りつつある。
QualcommのHBCへの参入は、確立されたHBM領域を超えた新たな競争に、SamsungとSK hynixを引き込んでいる。
なぜ重要なのか
真のボトルネックがメモリ密度ではなくデータ移動にあるならば、パッケージング、インターコネクト、メモリ・コンピューティング統合におけるリーダーシップが、積層メモリ層の数を最大化することよりも価値を持つ可能性がある。
Qualcommの参入は設計上の優先順位の変化を示唆しており、主にHBM仕様で競争してきたメモリサプライヤー間の競争力学を覆す可能性がある。
重要な事実
AIインフラ競争は、高速コンピューティングに不可欠な構成要素としてHBMに焦点を当ててきた。
モデルサイズ、コンテキストウィンドウ、推論ワークロードの拡大が、ボトルネックを移行させている。
ボトルネックは、積層されるメモリの量から、メモリとコンピューティング間でのデータ移動の効率へと移行している。
QualcommのHBC戦略は、SamsungとSK hynixをHBMを超えた競争に引き込んでいる。
次の注目点
メモリメーカーが、QualcommのHBCイニシアチブに応えて、データ移動効率を重視したロードマップに転換するかどうかに注目だ。
他のチップメーカーやメモリベンダーが同様の取り組みを発表し、HBM中心のアプローチからのより広範な業界シフトを示すかどうかを注視しよう。