LoRA(ローラ)とは
LoRAとは、巨大なAIモデルを丸ごと作り直さず、ごく一部の小さな部品だけを追加で学習させることで、効率よく微調整（ファインチューニング）する手法です。Low-Rank Adaptationの略で、少ない計算資源でも、モデルを目的に合わせて調整できます。
なぜそんなに軽いのか
通常のファインチューニングは、モデル全体の膨大な数値を調整し直すため、重い作業になりがちです。LoRAは元のモデルはそのまま凍結し、小さな「低ランク行列」だけを足して学習するのが特徴。数十億のパラメータを持つモデルでも、わずか数百万のパラメータの調整だけで済むこともあり、コストとメモリを大きく節約できます。
Topic画像生成で大人気の「追加ファイル」
LoRAが特に親しまれているのが、画像生成AIの世界です。Stable Diffusionの利用者コミュニティでは、特定の画風やキャラクターを再現する小さなLoRAファイルが、数多く共有されています。本体の巨大なモデルはそのままに、小さなLoRAを差し替えるだけで作風を切り替えられる。まるで着せ替えのような手軽さが、多くの人に支持される理由になっています。
関連用語
LoRAに関するよくある質問
- LoRAはふつうのファインチューニングと何が違いますか？
- 通常のファインチューニングはモデル全体の膨大な数値を調整し直すため重い作業ですが、LoRAは元のモデルを凍結し、小さな「低ランク行列」だけを足して学習します。数十億のパラメータを持つモデルでも、わずか数百万のパラメータの調整で済むことがあり、コストとメモリを大きく節約できます。
- LoRAはどんな場面で使われていますか？
- 画像生成AIの世界で特に親しまれています。Stable Diffusionのコミュニティでは、特定の画風やキャラクターを再現する小さなLoRAファイルが数多く共有され、本体の巨大なモデルはそのままに、着せ替えのように作風を切り替えられます。