HBM(エイチビーエム)とは

HBMとは、AI向けのGPUなどに搭載される、データのやり取りが非常に速い高帯域幅メモリです。記憶部品であるDRAMをビルのように縦へ積み上げ、計算を担うGPUと同じパッケージの中のすぐ隣に置いて、極端に太いデータの通路でつなぎます。AIの計算では膨大なデータを一気に流す必要があり、その通路の太さを稼ぐために生まれた特殊なメモリだと考えると分かりやすいでしょう。

なぜHBMは速いのか

速さの正体は、データが通る道の本数（バス幅）にあります。HBMは、記憶チップを積み重ねた1つの塊（スタック）ごとに1,024本のデータの出入り口を持ち、2025年4月に業界団体JEDECが規格を公開したHBM4では、これが2,048本へ倍増しました。1本あたりの速さは規格上で毎秒8ギガビットと極端ではなく、本数で稼ぐ設計です。その結果、HBM4は1スタックで毎秒最大2テラバイト。数ギガバイトの映画ファイルなら、おおよそ数百本分を1秒で送れる計算です。容量の大きさよりも「通路の太さ」を優先している点が、ふつうのパソコン用メモリとの一番の違いになります。

AIにとって、なぜメモリの速さが効くの？

生成AIの推論のうち、回答を1語ずつ書き出していく段階について、NVIDIAは「根本的にメモリ側の性能に縛られる」と説明しています。1語を出すたびに、AIモデルの中身にあたる膨大な数値と、それまでの会話を覚えておくためのKVキャッシュをメモリから素早く運ばないと、計算の部品が手待ちになってしまうからです。では、容量は何に効くのか。大きなモデルや長いコンテキストウィンドウを、GPUの上に置いたままにしておくためです。同社が2026年1月に発表したRubin GPUは、1基に最大288GBのHBM4を載せ、帯域は毎秒最大22テラバイト。

GDDRやDDRとの違い

メモリにはいくつか種類があり、用途で住み分けています。DDRはパソコン全般で使う汎用のシステムメモリ、GDDRはゲーム向けGPUに載るグラフィック用メモリ、そしてHBMはAIやデータセンター向けの高性能GPUに載るメモリです。道路にたとえれば、DDRが家庭用の一般道、GDDRがゲーム用の高速道路、HBMはAI専用に何車線も束ねた超広幅のハイウェイという関係になります。同じ「メモリ」でも狙いが違うわけです。

経営から見た希少部材としてのHBM

HBMは、AIアクセラレータの性能と価格を左右する希少な部材です。量産している主なメーカーは韓国のSKハイニックスとサムスン電子、米国のマイクロンで、2026年にはこの3社がHBM4の出荷をそろって始めています。なぜ取り合いになるのか。理由の一つは作り方にあります。マイクロンによると、同じ製造技術で同じ量のデータを記憶する分を作るのに、HBM3EはDDR5の約3倍のウエハー（半導体を作る円盤状の基板）を使い、この比率は世代が進むほど大きくなるといいます。HBMを増やすほど、ほかのメモリの供給が伸びにくくなるわけです。同社は2025年12月の決算説明の時点で、2026年分のHBMの価格と数量をすべて顧客と取り決め済みだと述べていました。GPUそのものだけでなく、その中に積むメモリの供給が、AI投資のボトルネックになりうるという視点は押さえておきたいところです。こうしたHBMを積んだ高性能GPUを、NVLinkやInfiniBandで束ねることで、大規模なAIの基盤はできあがります。

HBMに関するよくある質問

HBMの容量は、どのくらいですか？

JEDECが2025年4月に公開したHBM4の規格では、記憶チップを16段重ねた1つの塊（スタック）で最大64GBです。GPUにはこの塊を複数並べて載せるので、GPU1基あたりの容量はその合計になります。

メモリ不足は、いつまで続きそうですか？

マイクロンは2026年6月の決算説明で、業界全体の供給は2028年に徐々に改善すると見込む一方、増え続ける需要に供給が追いつく時期は見通せていないと述べています。理由の一つとして、新しい工場の建設に長い時間がかかることを挙げています。