attacks

定義

モデルを意図的に誤らせたり制約を回避させたりする入力や手口の総称。画像への微小な摂動による敵対的事例から、プロンプトインジェクションや脱獄まで含む。防御の評価は既知の攻撃に対する相対的なものにとどまり、多くは実装の不具合ではなく学習された振る舞い自体に由来する。

論文題名での読み方

安全性・脆弱性研究

この語が出てくる解説

• CPUパイプラインと分岐予測 — 1クロックの中の工場Spectre Attacks: Exploiting Speculative Execution
• 論文解説: 危機映像のAI捏造は見抜けるか — RA-Benchが暴いた検出器の実力Can We Defend Against AI-Generated Video Attacks on Real-World Crisis Events? A Systematic Evaluation of Detectors, Generators and Social Dissemination