KTOとは
KTOとは、AIの回答を人間の好みに合わせるとき、人間が損や失敗を強く気にしやすいという心理の傾きを取り入れて調整する選好最適化手法です。2024年に発表され、DPOと同じく報酬モデルを別に作らずAIを合わせ込む方法の一つとして注目されました。
英語表記：Kahneman-Tversky Optimization（KTO）
KTOの仕組み
KTOの土台にあるのは、行動経済学のプロスペクト理論です。人間は同じ大きさの得と損を比べると、損のほうを重く感じやすいと言われます。KTOはこの発想を使い、「好ましい回答」と「好ましくない回答」を人間の感じ方に近い形で重みづけするように設計されています。単に正解を増やすのではなく、不快・危険・役に立たない回答を避けたいという人間側の感覚を、学習の目的に入れる手法です。
DPOとの違い
DPOは、同じ問いに対して「選ばれた回答」と「選ばれなかった回答」のペアを使って学習します。KTOは、その回答が望ましいか望ましくないかという二値の信号だけでも学習できる点が大きな違いです。たとえば「この回答は社内基準に合っている」「これは避けたい」という単独ラベルが多く、きれいなペア比較データが少ない場合に考えやすいでしょう。好みのデータを集める現場では、この違いが実務上の使いやすさに関わります。
ビジネスでの使われ方
KTOは、企業がAIの応答を自社の方針やブランドトーンに寄せるときの考え方として役立ちます。特に、「望ましい例」だけでなく「これは避けたい例」をうまく使えるのがポイントです。顧客対応、法務チェック、社内ナレッジ回答などでは、良い回答を増やすだけでなく、まず危ない回答を減らすことが重要になります。KTOはその発想に近い調整手法といえるでしょう。
TopicAIの調整に行動経済学の名前が入っている
KTOの名前は、AI研究者ではなく、心理学者・行動経済学者として知られるDaniel KahnemanとAmos Tverskyに由来します。彼らのプロスペクト理論は、人間が利益より損失を強く感じやすいことを説明しました。KTOはその発想をLLMの調整へ持ち込みます。AIを「正解に近づける」だけでなく、人間が嫌がる失敗をどのように重く見るかまで考える点が、この手法の面白いところです。
KTOに関するよくある質問
- KTOはDPOと何が違いますか？
- DPOは選ばれた回答と選ばれなかった回答のペアを使います。KTOは回答が望ましいかどうかの二値ラベルでも学習でき、人間の損失回避のような心理的な重みづけを取り入れる点が違います。
- KTOのKahneman-Tverskyとは何ですか？
- 人間の判断や損失回避を説明したプロスペクト理論で知られるDaniel KahnemanとAmos Tverskyに由来します。AI分野だけで完結した名前ではなく、行動経済学の発想を借りた名称です。
- KTOは企業のAI活用にどう関係しますか？
- 望ましい回答を増やすだけでなく、避けたい回答を強く抑えたい場面で考えやすい手法です。顧客対応や社内FAQのように、危険な回答を減らすことが重要な用途と相性があります。
