llm-integrated

定義

既存のアプリケーションや業務フローの内部に言語モデルを組み込んだ構成を指す形容。チャットボット単体ではなく、メールクライアントや検索、社内システムがモデルを呼び出して外部データを処理する形態を想定した語で、セキュリティ研究で頻出する。取り込んだ外部データが命令として解釈されうる点が、単体利用との最大の違い。

論文題名での読み方

LLM内蔵の製品を指す

この語が出てくる解説

• LLMセキュリティ — プロンプトインジェクションと防御Not What You've Signed Up For: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection