Grace Hopperとは

Grace Hopperとは、NVIDIA(エヌビディア)が2023年に投入した、CPUとGPUを1つの部品に一体化したAI・スパコン向けの製品です。頭脳役のCPU「Grace」と、AI計算が得意なGPU「Hopper」を太い専用配線で密につなぎ、両者が同じメモリを共有して連携できるのが最大の特徴。大規模AIや科学計算の処理を、より速く効率よくこなすために生まれました。

英語表記:NVIDIA GH200 Grace Hopper Superchip

「メモリの壁」を設計で崩す

大規模なAIを動かすとき、足を引っ張るのは計算の速さだけではありません。CPUとGPUが別々の部品だと、その間でデータをやり取りする時間がかかり、ここが渋滞しがちでした。これを「メモリの壁」と呼びます。Grace Hopperは、CPUとGPUをPCIe(一般的な接続規格)の約7倍という太い配線でつなぎ、両者が同じデータ置き場を共有する設計にしてこの渋滞を解消。料理にたとえるなら、調理担当と仕込み担当が別々の冷蔵庫を行き来していたのを、大きな共用の作業台を囲んで一緒に動く形に変えたようなものでしょう。

普通のサーバーとの違い、そして後継

一般的なサーバーは、CPUの基板に別売りのGPUを挿して使います。対してGrace Hopperは、最初からCPUとGPUが一体で設計され、メモリも共有する点が大きく異なります。これにより、GPU単体ではメモリが足りなくなりがちな超大型のAIモデルも扱いやすくなりました。なお、これは2023年に登場した世代であり、2024年には後継の「GB200(Grace Blackwell)」が発表されています。導入を検討するなら、後継が控えている点も踏まえて世代を見極めたいところです。

大規模AI投資の基盤選びに関わる

経営の観点でおさえておきたいのは、自社で大規模なAI開発や科学計算に投資するなら、計算基盤の「メモリのつながり方」までが性能とコストを左右するという事実です。速いGPUを並べるだけでは、データの渋滞でその力を出しきれません。Grace Hopperは、その渋滞を部品の設計レベルで解いた一例。AI基盤の選定では、単体の速さだけでなく全体のつながりを見る視点が役立つでしょう。

TopicGraceとHopperは、同じ一人の人物

「Grace」と「Hopper」は別々の名前に見えて、実は同じ一人の人物にちなみます。コンピュータ科学者で米海軍少将でもあったグレース・ホッパー(1906〜1992)です。プログラミング言語COBOLの母とも呼ばれる人物で、CPU世代に名「Grace」、GPU世代に姓「Hopper」を充て、両者を組み合わせたこの製品はフルネームで本人を称える形になりました。さらに彼女は、コンピュータの不具合を指す「バグ(bug=虫)」という言葉を広めた逸話でも有名。1947年、機械に挟まった本物の蛾を記録に残したのが由来で、その蛾は今もスミソニアン博物館に保存されています。

Grace Hopperに関するよくある質問

個人や中小企業でも導入できますか?
Grace Hopperはデータセンター向けの大型製品で、個人や多くの中小企業が直接購入するものではありません。通常はAWSやマイクロソフトなどのクラウドを通じて、必要なときに必要な分だけ利用します。自社で機材を抱えなくても性能の恩恵は受けられます。
後継のGB200(Grace Blackwell)とはどう関係しますか?
Grace Hopperは2023年のHopper世代、GB200は2024年に発表された後継のBlackwell世代です。NVIDIAの説明では学習・推論ともGH200比で約1.8倍速くなります。今から検討するなら、世代の新しさと入手しやすさの両面で見極めるとよいでしょう。
どんな用途で使われますか?
大規模言語モデルの学習、科学技術計算、スーパーコンピュータなど、巨大なデータとメモリを必要とする用途が中心です。

あわせて読みたい記事