AIのスケーリングとは
AIのスケーリングとは、AIの性能、処理量、利用範囲を、品質と管理を保ちながら拡大することです。モデルの大型化だけを指す言葉ではありません。学習(AIを賢くする)、提供基盤(大勢が同時に使えるようにする)、組織展開(使う部署を増やす)の三つに分けて、どこを広げるのかを決めると、投資判断が明確になります。
英語表記:AI Scaling
三つの拡大を分ける
一つ目は、学習データや計算量を増やし、モデルの能力を高める拡大です。二つ目は、大勢が同時に使っても待たされないように、システム側の処理能力を増やす拡大です。三つ目は、一部門の実験から全社の業務へ利用を広げる組織展開です。
これらは別々の課題を持ちます。たとえば、利用者数だけを増やすと、誤回答の確認、利用料、人の承認作業も同時に増えるでしょう。「使える人数」と「安定して成果を出せる人数」は同じではないと理解する必要があります。
小さく再現できた後に広げる
スケーリングの前に、一つの業務で成功条件を固めます。精度だけでなく、一件当たりの時間とコスト、人が直した割合、事故時の影響を測るのが基本でしょう。品質基準、予算上限、責任者、停止条件が揃ってから、利用部門を段階的に増やします。
全社展開後は、MLOpsによるバージョン管理や監視、AIガバナンスによる権限と承認の統一が欠かせません。利用拡大をツールの配布だけで終わらせると、失敗も同じ速度で広がります。
Topic「大きいモデルほど良い」には続きがある
Google DeepMindがChatGPTの一般公開前に公表したChinchillaの研究は、使える計算資源が限られている場合は、モデルをただ大きくするよりも、モデルの大きさと学習データ量の釣り合いを取るほうが成績が伸びると示しました。これは基盤モデル研究の流れにあります。スケーリングは単に大きくすることではなく、限られた資源をどこへ配るかという問題でもあるといえるでしょう。
AIのスケーリングに関するよくある質問
- AIのスケーリングは大規模言語モデルだけの話ですか?
- いいえ。モデルの学習に加え、多くの利用を処理する基盤や、複数部門への業務展開も含む広い概念として使われます。
- 利用者を増やす前に何を数値化すべきですか?
- 一件当たりの処理時間と費用、人の修正率、重大な誤り、利用停止時に業務を戻す時間を優先します。部門間で同じ定義を使うことが大切です。
- AIのスケーリングが失敗しているサインはありますか?
- 利用数は増えているのに、人の手直し、クレーム、利用料、権限付与の手間がそれ以上に増える場合は要注意です。拡大を一度止め、先行部門の失敗原因を直します。