HBM(エイチビーエム)とは
HBMとは、AI向けのGPUなどに搭載される、データのやり取りが非常に速い高帯域幅メモリです。記憶部品であるDRAMをビルのように縦へ積み上げ、計算を担うGPUのすぐ隣に置いて、極端に太いデータの通路でつなぎます。AIの計算では膨大なデータを一気に流す必要があり、その通路の太さを稼ぐために生まれた特殊なメモリだと考えると分かりやすいでしょう。
正式名称:高帯域幅メモリ
英語表記:High Bandwidth Memory(HBM)
なぜHBMは速いのか
速さの正体は、データが通る道幅(バス幅)の広さにあります。一般的なメモリが32本ほどの通路でデータを送るのに対し、HBMは1,024本、最新世代では2,048本もの通路を束ねています。記憶チップを縦に積み、シリコンの土台を介してGPUのすぐ近くに配置することで、短い距離を超幅広の道でつなぐ。これが高速の理由です。容量の大きさよりも「通路の太さ」を稼ぐ設計だという点が、ふつうのパソコン用メモリとの一番の違いになります。
GDDRやDDRとの違い
メモリにはいくつか種類があり、用途で住み分けています。DDRはパソコン全般で使う汎用のシステムメモリ、GDDRはゲーム向けGPUに載るグラフィック用メモリ、そしてHBMはAIやデータセンター向けの高性能GPUに載るメモリです。道路にたとえれば、DDRが家庭用の一般道、GDDRがゲーム用の高速道路、HBMはAI専用に何車線も束ねた超広幅のハイウェイという関係になります。同じ「メモリ」でも狙いが違うわけです。
経営から見た希少部材としてのHBM
HBMは、AIアクセラレータの性能と価格を左右する希少な部材です。作れるメーカーは韓国のSKハイニックスとサムスン、米国のマイクロンの実質3社に集中しており、AIブームで需要が急増しました。ある試算では、HBMを増やすほど同じ製造ラインで作れる一般メモリの量が大きく削られるとされ、HBMの取り合いがAIインフラ全体の調達コストや納期に響きます。GPUそのものだけでなく、その中に積むメモリの供給が、AI投資のボトルネックになりうるという視点は押さえておきたいところです。こうしたHBMを積んだ高性能GPUを、NVLinkやInfiniBandで束ねることで、大規模なAIの基盤はできあがります。
TopicHBMを最初に世に出したのはNVIDIAではなくAMDだった
いまやAI向けGPUの心臓部となったHBMですが、その出発点はGPUの消費電力との戦いにありました。AMDが2008年ごろから開発に着手し、韓国のSKハイニックスと共同で、メモリを「横に広げる」のをやめて「縦に積む」発想に切り替えます。電力と基板サイズの問題を解いたこの新メモリを世界で最初に載せた製品は、NVIDIAではなくAMDのグラフィックスカード(Radeon R9 Fury X、2015年6月)でした。AIの土台が、ゲーム向けGPUの省電力技術から生まれていたわけです。
HBMに関するよくある質問
- HBMとふつうのパソコン用メモリ(DDR)は何が違いますか?
- HBMはAI向けGPU用に、データの通路(バス幅)を極端に広げた高速メモリです。DDRはパソコン全般で使う汎用のシステムメモリで、HBMほど太い通路は持ちません。狙いと使う場所が違います。
- HBMはなぜAIの供給ボトルネックと言われるのですか?
- 作れるメーカーがSKハイニックス・サムスン・マイクロンの実質3社に集中し、AI需要の急増で取り合いになっているためです。HBMの増産は一般メモリの生産も圧迫するとされ、AIインフラの調達コストや納期に影響します。
- HBMを最初に使ったのはNVIDIAですか?
- いいえ。HBMはAMDがSKハイニックスと共同開発し、最初に搭載した製品は2015年6月のAMDのグラフィックスカード(Radeon R9 Fury X)でした。