interpretable

定義

人が理由を追える性質のこと。予測が当たるだけでなく、どの入力や内部要素が効いたかを示せる手法を指し、医療や与信など説明責任が要る領域で重視される。事後に説明を付ける explainable と区別され、interpretable はモデル自体が構造として読み取れることを指す場合が多い。

論文題名での読み方

説明可能AI(XAI)

この語が出てくる解説

• 論文解説: Interpretable MEG Decoding of Perceived Speech — 脳磁図から「聞いた音声」を当てるAIの中身を、脳地図として読むInterpretable MEG Decoding of Perceived Speech: Cortical Sources and the Stimulus Features That Drive Retrieval