EAGLE(イーグル)とは
EAGLEとは、大規模言語モデル（LLM）の文章生成を速くする「投機的デコーディング」という技術を改良し、さらに高速化した推論手法です。LLMが回答を作るときの待ち時間を、できるだけ短くするための工夫の一つ。狙いはあくまで速度で、答えそのものの中身を変えるわけではありません。
英語表記：EAGLE (Extrapolation Algorithm for Greater Language-model Efficiency)
投機的デコーディングをどう改良したのか
投機的デコーディングは、小さな「下書き役」のモデルに先の単語を予想させ、本体の大きなモデルがまとめて確認することで生成を速めます。EAGLEが新しいのは、単語そのものではなく、モデル内部の「特徴量」というより手前の段階で先読みする点です。これで予想が当たりやすくなり、効率が上がります。論文では、700億パラメータ規模のモデルで遅延を2.7〜3.5倍短縮し、しかも出力の中身は元のまま変えない（品質を落とさない）と報告されました。
Topic「鷲」の名は、頭文字の並べ替えだった
EAGLEという名前は、英語で鷲を意味します。ただ、実は「Extrapolation Algorithm for Greater Language-model Efficiency」の頭文字を並べたもの。研究者が手法に覚えやすい単語を当てはめる「言葉遊び」の一例です。先を見通して効率を高めるという中身が、遠くまで見渡す鷲のイメージとうまく重なっているのも、洒落ているところでしょう。
EAGLEに関するよくある質問
- EAGLEを使うと回答の質は落ちますか？
- いいえ。EAGLEは出力の中身（確率分布）を元のまま保つ「ロスレス」な手法です。速くなるのは生成にかかる時間だけで、答えの質を変えずに待ち時間を短くできます。
- EAGLEとMedusaは何が違いますか？
- どちらもLLMの生成を速める手法ですが、進め方が異なります。EAGLEはモデル内部の特徴量を先読みするのに対し、Medusaは複数の予測ヘッドを後付けして数単語先を同時に予想します。狙いは同じ高速化でも、その作り方が違います。
