probing

定義

学習済みモデルの内部表現に、どんな情報が入っているかを調べる分析手法。多くは中間層の出力を固定したまま、その上に小さな分類器を載せて特定の性質が読み出せるかを測る。性能を上げるための手法ではなく、モデルが何を符号化しているかを解釈するための道具である点が fine-tuning との決定的な違い。

論文題名での読み方

中身を探る分析手法

この語が出てくる解説

• 論文解説: VGI-Bench — 動画生成モデルは「途中経過」まで正しく描けるのかVGI-Bench: Probing Visual Intelligence in Video Generation Models