Llama Guard(らまがーど)とは
Llama Guardとは、MetaのLlama系安全分類モデルで、ユーザー入力やAI応答が安全リスクに当たるかを判定するためのガードレール（危険な入出力を止める安全柵）です。AIの返答を作るモデルとは別に、会話の内容を安全カテゴリで仕分ける見張り役を置く考え方。
英語表記: Llama Guard / Llama Guard 3
どこで使うのか
Llama Guardは、入力前と出力後の両方で使えます。たとえば利用者の依頼が危険な内容か、AIの返答が禁止カテゴリに触れていないかを分類します。受付係が相談内容を仕分け、必要なら担当者へ回さず止めるような位置づけに近いでしょう。
注意したいのは、分類モデルも誤判定し得ること。「Llama Guardを入れたから安全」ではなく、判定結果をどう運用ルールに接続するかが実務上の焦点になります。
Topic安全ルールを別モデルに任せる発想
Llama Guardは、チャット本体の中に注意書きを増やすだけではなく、別のモデルで入出力を分類します。回答する係と安全確認する係を分ける発想です。
ビジネスでの見方
社内AIや顧客向けチャットで見るべき点は、安全カテゴリを自社ポリシーに合わせられるかです。法律、業界規制、ブランド基準は会社ごとに違います。分類結果をログに残し、AIガバナンスの監査材料にできる設計が望ましいでしょう。
Llama Guardに関するよくある質問
- Llama GuardはLlama本体と同じものですか？
- 同じ役割ではありません。Llama本体は回答生成に使われ、Llama Guardは入力や出力の安全リスクを分類するためのモデル群です。
- Llama Guardを使えば社内AIは自動で安全になりますか？
- 自動で安全になるわけではありません。分類結果を止める、確認に回す、ログに残すなど、運用ルールへ接続する必要があります。
