推論とは

推論とは、学習を終えたAIモデルに新しいデータを与えて、予測や答えを実際に出させることです。機械学習では、大量のデータで練習する「学習」と、できあがったモデルを使う「推論」に役割が分かれます。学習が練習なら、推論は本番にあたると考えるとわかりやすいでしょう。

学習と推論の違い

学習は、AIが大量のデータを見ながら内部のパラメータ(調整つまみ)を整えていく段階です。これに対して推論は、整え終わったモデルに新しい質問やデータを入れて答えを引き出す段階。私たちがふだんAIを使う場面の多くは、すでに学習を終えたモデルを呼び出す推論にあたります。

企業がAIを使うときも、費用の大半は「使うたびにかかる推論」の側だといわれます。一度学習させて終わりではなく、使い続けるかぎり推論の費用が発生し続ける点は、導入前に押さえておきたいところ。

TopicAIと話しても、その場では賢くならない

チャットでAIとやり取りしていると、会話を重ねるほどそのAIが賢くなっていくように感じるかもしれません。ところが、ふだんの利用は「推論」であって学習ではないのです。あなたとの会話でモデルの中身(パラメータ)が書き換わるわけではなく、その場の入力に対して答えを返しているだけです。AIを賢くするには、別にあらためて学習させる工程が必要になります。「使えば使うほど自分専用に育っていく」と思い込むと、実態とずれてしまうので気をつけたいところ。

推論に関するよくある質問

推論と学習はどう違いますか?
学習はモデル内部のパラメータを整えていく「練習」の段階、推論は整え終わったモデルに新しいデータを入れて答えを引き出す「本番」の段階です。ふだんAIを使う場面の多くは推論にあたります。
AIと会話を重ねると、そのAIは賢くなりますか?
なりません。ふだんの利用は推論であって学習ではなく、あなたとの会話でモデルの中身(パラメータ)が書き換わるわけではありません。AIを賢くするには、別に学習させる工程が必要です。
AIの費用は学習と推論のどちらが大きいですか?
企業がAIを使うときは、費用の大半が「使うたびにかかる推論」の側だといわれます。一度学習させて終わりではなく、使い続けるかぎり推論の費用が発生し続けます。