ハイパーパラメータとは

ハイパーパラメータとは、機械学習でAIに学習を始めさせる前に、人間があらかじめ決めておく設定値のことです。たとえば「どれくらいの大きさで少しずつ学ぶか(学習率)」「一度に何件のデータをまとめて見るか」といった、学び方そのものを左右する値を指します。AIの賢さや学習にかかる時間を大きく左右する、いわば「学習の進め方の設定」です。

パラメータとの違い

混同しやすいのがパラメータです。パラメータはAIが学習しながら自分で調整していく内部の値(重み)、ハイパーパラメータは学習が始まる前に人が外から決める設定、という関係にあります。料理にたとえるなら、オーブンの温度や焼き時間を決めるのがハイパーパラメータ。焼くなかで素材の内部に起きる変化のほうがパラメータ、というイメージです。作り手が決めるか、過程そのものが決めるか、と整理するとわかりやすいでしょう。

良い設定を探す地道な作業

ハイパーパラメータの良し悪しは、AIの性能を大きく動かします。ただ「これが正解」という値が初めからわかるわけではありません。候補をいくつも試して、結果が良い組み合わせを探すのが一般的で、総当たりで調べるグリッドサーチという方法もよく使われます。AI開発の現場では、この調整に多くの試行錯誤の時間がかかっています。

ハイパーパラメータに関するよくある質問

「ハイパー」パラメータの「ハイパー」はどういう意味ですか？

ギリシャ語で「〜の上位の・〜を超えた」を意味する接頭辞（ハイパーリンクなどと同じ）です。「AIは何でも自分で学ぶ」と思われがちですが、学習率のような「学び方のルール」は今も人間が決めており、AIが学ぶパラメータの一段上から学習のしかた全体を見渡して制御する値、という位置づけが名前に表れています。

ハイパーパラメータとパラメータはどう違いますか？

パラメータはAIが学習しながら自分で調整していく内部の値（重み）、ハイパーパラメータは学習が始まる前に人が外から決める設定です。料理にたとえると、オーブンの温度や焼き時間を決めるのがハイパーパラメータ、焼くなかで素材に起きる変化のほうがパラメータにあたります。

良いハイパーパラメータはどう決めるのですか？

「これが正解」という値が初めから分かるわけではなく、候補をいくつも試して結果が良い組み合わせを探すのが一般的です。総当たりで調べるグリッドサーチという方法もよく使われ、現場ではこの調整に多くの試行錯誤の時間がかかります。