GB200 NVL72とは

GB200 NVL72とは、半導体大手のNVIDIAが2024年に発表した、72基の最新GPUを高速接続でひとつに束ね、ラック（サーバー棚）丸ごとを1台の巨大なAIマシンとして動かすシステムです。GPUとは画像処理から発展したAIの計算を担う部品で、近年のAIはこれを大量に並べて動かします。GB200 NVL72は、そのGPUを72基とCPUを36基、1つの棚の中で密に連結した「最小単位がラック」という発想の装置です。

なぜ「ラック丸ごと1台」にするのか

文章や画像を生成するAIは年々巨大になり、パラメータ（AIの頭脳をつくる調整値）が兆の単位に達しています。これほど大きなAIは、GPUを1枚や数枚積んだだけでは動かしきれません。そこで72基のGPUを第5世代NVLinkという専用の高速道路でつなぎ、まるで1つの大きなGPUのように協調させるわけです。NVIDIAによると、この構成は従来の主力GPU「H100」と比べLLM（大規模言語モデル）の推論で約30倍、学習で約4倍、エネルギー効率で約25倍に達するとされます。あくまでメーカー公称値ですが、AIの処理速度と消費電力を大きく左右する装置だと分かるでしょう。

経営から見たときの意味

こうした装置は、AIサービスの「速さ」と「電気代」を同時に決めてしまう土台です。同じAIでも、これを動かす基盤が速く電力効率が高ければ、応答は速く運用コストも下がるでしょう。GB200 NVL72は2024年末から2025年にかけて、Microsoft・Oracle・AWSなど大手クラウドへ順次導入が始まりました。需要が供給を上回り、入手しづらい状態が続いていることも、いまのAI競争が「計算する力（インフラ）の奪い合い」になりつつある証拠です。自社で使うAIベンダーを選ぶときは、その裏側でどの基盤が動いているかも、速度と料金を読む手がかりになるはずです。

GB200 NVL72に関するよくある質問

GB200 NVL72は、いわゆる「GPU」とは何が違うのですか？

GPUは1枚の計算用の部品ですが、GB200 NVL72はそのGPUを72基とCPU36基をひとつのラックに束ねたシステム全体を指します。部品単体ではなく、ラック丸ごとで1台の巨大なAIマシンとして動く点が違いです。

GB200 NVL72は自社で購入して導入できますか？

主に大手クラウド事業者や大規模なAI開発者が導入する装置で、1台がラック規模になります。多くの企業は自社購入ではなく、これを備えたクラウドサービス経由で間接的に使うのが現実的です。

なぜ水で冷やす（液冷）必要があるのですか？

72基ものGPUを密に詰め込むと発熱が非常に大きく、扇風機のような空気の冷却では追いつかないためです。液体で熱を運び出すことで、高密度のまま安定して動かせます。