Agent Activity Monitoringとは
Agent Activity Monitoringとは、AIエージェントが何を読み、どのツールを呼び出し、どんな操作を実行したかを記録・監視することです。人間の業務ログに近いですが、AIは短時間で多くの操作を連続実行できます。後から説明できない自動化は、経営リスクになりやすいのです。
何を記録するのか
見るべき項目は、実行者、依頼者、入力、出力、呼び出したツール、参照データ、Agent Permissions、承認者、失敗、停止、外部送信です。Agent Inventoryと結びつけると、どのエージェントがどの操作をしたかを追えます。ログだけが散らばっている状態では、事故時に説明できません。
NIST AI RMFは、本番環境でAIシステムの機能と振る舞いを監視し、既存・予期しない・新興リスクを追跡する考え方を示しています。AIエージェントでは、これに外部ツール操作の記録が加わります。回答品質だけでなく、行動の履歴を見ることが重要です。
監視は権限管理の代わりではない
監視を入れても、過剰な権限を放置してよいわけではありません。Agent Permissionsで操作範囲を絞り、Control Agentsで高影響アクションを止め、AI Risk and Control Matrixで確認頻度や責任者を決めます。監視は、予防策の穴を早く見つけるためのセンサーです。
経営で確認したいのは、ログがあるかではなく、誰が見て、何を異常とし、どこへエスカレーションするかです。通知が多すぎると誰も見なくなります。削除、外部送信、権限変更、顧客通知のような高影響アクションから監視ルールを作るのが現実的でしょう。
Topic監視は万能な予防策ではない
OWASP LLM06は、ログと監視を「Excessive Agencyを防ぐ」策ではなく、望ましくない行動を見つけて対応し、被害を抑える選択肢として位置づけています。監視カメラを置いても鍵を閉めなくてよいわけではないのと同じです。
Agent Activity Monitoringに関するよくある質問
- 監視アラートが多すぎる場合は？
- 重大な操作から絞ります。削除、外部共有、権限変更、課金など、戻しにくい行為を優先し、下書きや検索のような軽い行為とは分けます。
- ログを見る担当者は誰がよいですか？
- 業務の意味が分かる部門と、権限や接続を管理するIT側の両方が関与します。片方だけだと、異常かどうかの判断が遅れます。
