injections

定義

データとして扱われるべき入力に命令を紛れ込ませ、実行させる攻撃の複数形。LLMでは取り込んだ文書やWebページ、ツールの返り値に仕込まれた文が指示として効いてしまい、直接打つ direct と外部データ経由の indirect に分けて論じられる。複数形のときは単一の脆弱性ではなく手口の分類を指すことが多い。

論文題名での読み方

prompt injection攻撃

この語が出てくる解説

• 論文解説: SecOPD — トークン1個ずつ採点して、適応的プロンプトインジェクションを1桁下げるSecOPD: Mitigating Adaptive Prompt Injections by On-Policy Distillation