論文解説: Hi-Q — 質問を「検索できる粒度」まで、証拠を見ながら割っていく

多段推論QAの本当のボトルネックは「質問の粒度」と「検索できる粒度」のズレにある。Hi-Qは、まず答えてみて答えられなかったノードだけを依存順に二分割していく。しきい値としての制御、木の育て方、そして実測値を前提知識ゼロから解説する。

Hi-Q: Hierarchical Evidence-guided Query Refinement for Multi-Hop Question Answering

「聞き方の粒度」がずれている

図書館の司書に「Ⅲという作品を演奏した人の出身地で起きた戦いは、いつ始まった？」と聞いたとします。司書は困ります。この一文には3つの調べ物（演奏者は誰か → その人の出身地はどこか → そこで起きた戦いの開始日はいつか）が畳み込まれているのに、書架にあるのはそれぞれ別々の本だからです。

いまのRAG（検索拡張生成）が多段推論の質問で詰まるのは、まさにここです。質問が書かれている単位と、コーパスから実際に取り出せる証拠の単位が違う。粗すぎる質問を投げると、検索器は「Ⅲ」や「戦い」といった表層の語にだけ反応した文書を上位に並べ、証拠の鎖は揃いません。かといって細かく割りすぎれば、文脈の制約が落ちて別物の質問になります。

この記事で読む論文の原題は "Hi-Q: Hierarchical Evidence-guided Query Refinement for Multi-Hop Question Answering"（arXiv:2608.30468、POSTECH の Jueun Kim・Sungho Park・Wook-Shin Han、2026年8月31日公開）です。

要旨を日本語で要約すると、こうなります。多段QAの中心的なボトルネックは、質問が表現される粒度と、コーパスから証拠を検索できる粒度が食い違うことにある。既存手法はコーパスに固定のグラフ構造をかぶせたり、クエリを反復的に書き換えたり、生成したプログラムを実行したりしてこのズレに対処してきたが、いずれも「あるクエリ単位がすでに証拠に支えられているのか、それとも細かくすべきなのか」を明示的に判断していない。著者らはこれを検索可能な粒度の発見（retrievable granularity discovery）という問題として定式化し、証拠に条件づけられた階層的クエリ精緻化の枠組み Hi-Q を導入する。各クエリノードで解決演算子が「取ってきた証拠は現在のクエリ単位を支えているか」を判定し、解決したノードは終了、未解決のノードは依存関係を保つ二分割演算子で展開され、意味カバレッジ検証器がその分割を確認する。したがって Hi-Q が育てるクエリ木の形は、固定の分解テンプレートや事前構築グラフではなく、コーパス側の支持信号によって決まる。

3つの失敗モード

論文は §1 で、粒度のズレが生む失敗を3つに整理しています。

1. 単発検索: 粗いクエリが複数の制約を絡めたまま投げられ、上位文書が表層語だけ一致して証拠の鎖を覆えない。
2. Graph RAG: コーパス側に構造を足すが、そのグラフはクエリが来る前に作られている。粒度の決定がクエリ非依存で、しかもコーパス全体の前計算コストがかかる（§2）。
3. 反復検索: IRCoT のようにクエリを更新していくが、更新後のクエリが証拠に支えられているかを明示的に検査しない。序盤で橋渡しの実体を取り違えると、その誤りが後段の検索まで増幅していく（§2）。

言い換えると、足りないのは「いまのクエリ単位は、このコーパスで検索可能なのか」を判定する制御機構だ、というのが論文の出発点です。

まず答えてみる、というだけの制御

Hi-Q の中身は驚くほど素朴です。割る前に、まずそのまま答えさせてみる。

各ノードは状態 $x=(q,\mathcal{H},d)$ を持ちます。$q$ は現在のクエリ、$\mathcal{H}$ はここまでの対話履歴、$d$ は再帰の深さです。解決演算子 $\mathcal{G}(q,\mathcal{H},C)\rightarrow(s,a,D)$ が、履歴を使ってクエリを書き直し、コーパス $C$ から上位 $k$ 件 $D$ を検索し、その $D$ だけを根拠に読み手（LLM）へ答えさせます。$s$ は解決済みか未解決か、$a$ は答えです。

方策はこの結果を見て動きます（§3.1）。

$$\pi(\tilde{x},s)=\begin{cases}\textsc{stop}&s=\text{resolved}\\ \textsc{fail}&d=d_{\max}\ \text{または}\ q\ \text{が分割不能}\\ \textsc{expand}&\text{それ以外}\end{cases}$$

読み下すと、「答えが出たらそこで終わり。深さの上限に達したか、これ以上割れないなら諦める。それ以外は割る」。$\tilde{x}=(x,D)$ は検索後の状態、つまり「どの文書が実際に手元に来たか」まで含んだ状態です。ここが Hi-Q の勘所で、判断材料が質問文だけではなく、返ってきた証拠そのものになっています。

クエリの書き直しが検索の前に来るのも意図的です。依存する子クエリは、先行する子が解けるまで意味が定まらない参照（「その演奏者の出身地」など）を含みます。演奏者が Stanton Moore だと分かった後なら、「Ⅲの演奏者の出身地」は「Stanton Moore の出身地」という具体的なクエリに書き換えられ、検索の干渉が減ります（§3.2）。

止めるか割るかは「コストのしきい値」

なぜ「まず答えてみる」で良いのか。論文はこれを、2種類の誤りのコスト比較として定式化します（§3.2、導出は Appendix B）。

本当は解けるノードを割ってしまう損を $\Delta_{\mathrm{R}}$、本当は未解決なのに止めてしまう損を $\Delta_{\mathrm{U}}$ とし、$Z\in\{\mathrm{R},\mathrm{U}\}$ をそのノードが実際に解決可能かどうかとします。条件付き期待コストを最小化すると、判断はしきい値になります。

式(1)は「未解決である確率が、割り損のコスト比を超えたら割れ」と言っているだけです。$\Delta$ は両方とも部分木全体にかかるコスト（子孫の検索・LLM呼び出し・意味のズレ・最終的な誤答）で測るので、判断はノード単位でも近視眼的ではありません。論文はこの木が全体最適だとは主張していません（§3.2）。

Hi-Q はこの確率を学習なしで推定します。読み手が答えを返せば解決とみなし、$a=\bot$（答えられない）を返せば未解決とみなす。それだけです。論文は「この硬い判定器が事後確率を計算していると主張するものではない」と明記し、較正済み分類器や含意モデルに差し替えても制御の意味論は変わらないとしています（Appendix C）。