クロスアテンションとは
クロスアテンションとは、AIが別々の情報源を照らし合わせ、片方を手がかりにして、もう片方のどこを見るべきかを決める仕組みです。たとえば文章をもとに画像の場所を見る、質問をもとに資料の該当箇所を見る、翻訳中の単語をもとに元文の対応箇所を見る、といった場面で使われます。アテンション機構の中でも「異なる情報どうしを結ぶ」役割が強いものです。
英語表記：Cross-attention
別々の情報を照らし合わせる
マルチヘッドアテンションや自己アテンションは、同じ入力の中で関係を見ることが多い仕組みです。一方、クロスアテンションは、質問と文書、文章と画像、翻訳文と元文のように、由来の違う情報を結びます。営業担当が顧客の質問を見ながら、提案書のどのページを開くべきか探す場面に近いでしょう。
マルチモーダルAIで効いてくる
画像、音声、文章を組み合わせるマルチモーダルAIでは、情報の種類が違うため、単に全部を混ぜるだけでは意味がずれます。クロスアテンションは、「この文章は画像のどの部分を指しているのか」のような対応関係を作るための重要な考え方です。業務では、図面説明、商品画像検索、議事録と資料の照合などで裏側に効く技術です。
Topic出発点は「翻訳で元文のどこを見るか」だった
クロスアテンションの感覚は、2014年の機械翻訳研究にさかのぼると理解しやすくなります。当時の研究は、翻訳する単語ごとに元文の関連部分を柔らかく探す仕組みを提案しました。いまの画像と文章を結ぶAIの発想も、もともとは「訳すときに元文のどこを見るか」という素朴な問題から伸びてきたと見ると、技術の流れがつながります。
クロスアテンションに関するよくある質問
- 導入時に利用者が直接設定するものですか？
- 多くの場合、利用者が個別に設定する項目ではありません。画像と文章、質問と文書などを組み合わせるAI製品の内部で使われる基礎技術として理解しておくと十分です。
- ビジネスではどこで使われますか？
- 画像検索、文書検索、議事録と資料の照合、文章から画像を扱うAIなどで裏側に使われます。利用者が直接設定するというより、複数種類の情報を合わせるAIの基礎部品です。
