AIを狙う攻撃や脆弱性にかかわる用語です。
収録67語- AdvBench
- Agentic Runtime Supply Chain
- AI Package Hallucination
- AIシステムに対する既知の攻撃と影響 えーあいしすてむにたいするきちのこうげきとえいきょう
- AIワーム
- AutoDAN
- AutoPrompt
- DAN
- Data Supply Chain Attack
- Direct Model Tampering
- Environment-Injected Memory Poisoning
- Excessive Agency
- FGSM
- HarmBench
- Improper Output Handling
- Information Security for GenAI
- Lethal Trifecta
- LLM Supply Chain
- LLMハルシネーションの発見 はつけん
- MCP Tool Poisoning
- Multi-Turn Jailbreak
- OWASP オワスプ
- PAIR
- PGD
- Prefilling Attack
- RAG索引対象の収集 らぐさくいんたいしょうのしゅうしゅう
- Reward Tampering
- Sandbagging サンドバッギング
- Semantic Norm Drift
- Situational Awareness
- SQLインジェクション エスキューエルインジェクション
- System Prompt Leakage
- TAP
- Tool Hijacking
- Tool Supply Chain Attack
- Trust Laundering Chain
- Vector and Embedding Weaknesses
- Vulnerable LoRA Adapter
- Vulnerable Pre-Trained Model
- Weak Model Provenance
- 回避攻撃 かいひこうげき
- 間接的プロンプトインジェクション かんせつてきプロンプトインジェクション
- クレッシェンド攻撃
- グリッチトークン
- ジェイルブレイク
- スケルトンキー
- スリーパーエージェント
- スロップスクワッティング
- 敵対的機械学習 てきたいてききかいがくしゅう
- 敵対的サフィックス攻撃 てきたいてきさふぃっくすこうげき
- 敵対的サンプル てきたいてきさんぷる
- 敵対的摂動 てきたいてきせつどう
- 敵対的データ作成 てきたいてきでーたさくせい
- 敵対的パッチ てきたいてきぱっち
- データポイズニング
- バックドア攻撃
- プロンプトインジェクション
- プロンプトウェア
- プロンプトウェアキルチェーン
- プロンプトリーク
- ベストオブN・ジェイルブレイク
- メニーショット・ジェイルブレイク
- メモリポイズニング
- モデルDoS
- モデル抽出攻撃
- ユニバーサルジェイルブレイク
- ロールコンフュージョン