injection

定義

本来データとして扱うべき入力に命令を紛れ込ませ、システムに実行させる攻撃手法の総称。SQLインジェクションと同じ発想で、LLMでは取り込んだ文書中の「これまでの指示を無視せよ」といった文が命令として効いてしまう。根本原因は、命令とデータが同じテキスト列に混在していて構文的に区別できない構造そのものにある。

論文題名での読み方

攻撃手法の名

この語が出てくる解説

• LLMセキュリティ — プロンプトインジェクションと防御Not What You've Signed Up For: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection