#multi-hop-reasoning

1 記事

01 ·学習手法・アライメント·★ 会員·論文·8分で読めます 論文解説: Transformers Stop Thinking Too Early — 3行で止まる参照追跡を、1層のランク8 LoRAが50行へ伸ばす Transformers Stop Thinking Too Early, and a Tiny LoRA Fixes It 事前学習済みLLMは文脈内の変数参照を2〜3行しかたどれない。全重みを凍結したまま初期の1層にランク8のLoRA（約6.5万パラメータ）を足すと、Qwen3-8Bは24行の鎖で15.5%→99%になる。中間層で走る「リレー」と、効く層の限界を論文本文に沿って読む。