MIGとは
MIGとは、NVIDIAのGPUに備わる、1枚のGPUを、それぞれ独立した最大7つの区画に分割して使う仕組みです。1枚をまるごと1つの仕事に使うのではなく、壁で仕切った複数の小部屋に分け、別々の利用者や処理に同時に割り当てられるのが特徴。各区画は専用のメモリや演算力を持ち、ある部屋が混んでも隣の部屋の性能に影響しないよう、きっちり分離されています。
英語表記:Multi-Instance GPU(NVIDIA)
なぜGPUを「分ける」のか
データセンター向けのGPUは1枚が非常に高価です。ところが実際の仕事には、軽い推論やちょっとした検証のように、GPUの力を一部しか使わない用途も多いもの。そこに1枚を丸ごと割り当てると、大半が遊んでしまいます。MIGなら1枚を最大7区画に分け、複数の処理を同時に走らせられるため、高価なGPUを遊ばせずに使い切れます。しかも各区画は独立しているので、誰かの重い処理が他の人の速度を巻き込む心配も小さい。限られた台数を、安全に分け合うための工夫でしょう。
経営から見たときの意味
MIGが効くのは、ずばりコストの面です。1枚のGPUをきめ細かく分けて使えれば、同じ台数でより多くの仕事をさばけるようになります。部署ごとに小さくAIを試したい、複数の社内サービスで1枚を共有したい、といった場面で無駄を抑えられるわけです。一定の性能を各区画に保証できる点も、安定運用の助けになります。AIの計算資源は高く、奪い合いも続く時代。持っている一枚をどう効率よく配るかという発想は、これから一段と重みを増していくでしょう。
Topic「束ねる」と「分ける」、正反対の両刀
面白いのは、NVIDIAが正反対の技術を両方そろえていること。たくさんのGPUを束ねて1つの巨大システムにする方向(GB200 NVL72のような連結)と、逆に1枚を最大7つに割って小分けにするMIGです。矛盾しているようで、実は理にかなっています。AIの用途が「超巨大なモデルを学習させる」ものと「小さな処理を大量にさばく」ものに二極化しているため、束ねる力と分ける力の、両方が必要になるからでしょう。
MIGに関するよくある質問
- MIGで分けた区画は、性能が落ちて不安定になりませんか?
- 各区画には専用のメモリと演算力が割り当てられ、互いに干渉しないよう分離されています。1枚を分けるぶん1区画あたりの力は小さくなりますが、その区画の中では安定した性能が保たれます。
- MIGはどのGPUでも使えますか?
- データセンター向けの一部のGPUで使える機能で、Ampere世代のA100以降などが対応します。ゲーム用を含むすべてのGPUに備わっているわけではありません。