GLOSSARY

indirect

間接的な。直接でなく別経路を通す

1本の論文題名に登場

定義

攻撃者がモデルに直接プロンプトを打つのではなく、モデルが読みに行くウェブページ・文書・メールに命令を仕込む経路のこと。indirect prompt injection という形で使われ、利用者が悪意なく使っていても攻撃が成立する点が危険視される。利用者自身が入力欄に仕掛ける直接注入とは、攻撃者の立ち位置が異なる。

論文題名での読み方

間接プロンプト注入

この語が出てくる解説

LLMセキュリティ — プロンプトインジェクションと防御Not What You've Signed Up For: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection