#instruction-tuning

2 記事

01 ·LLM — 大規模言語モデル·★ 会員·論文·9分で読めます 論文解説: OmniEdu — 「解く・位置づける・見立てる・導く」の4能力で作る教育用オープンLLM OmniEdu: Open Foundation Models for Learning and Teaching K-12教育向けのオープンLLM「OmniEdu」を解説。約134万件の候補から6万951件を選ぶデータ設計と、答えを言う/言わないを切り替える「教え方の指示」、評価結果と限界までを1から読み解く。 02 ·学習手法・アライメント·無料·論文·13分で読めます Instruction Tuning と RLHF を1から解説 — 指示に従うモデルはどう作られるか Training language models to follow instructions with human feedback 事前学習しただけのモデルが指示に従わないのは能力不足ではなく目的関数のずれ。InstructGPT論文（Ouyang et al., 2022）の本文だけを根拠に、SFT→報酬モデル→強化学習の3段を式まで追い、「1.3Bが175Bを人間評価で上回った」という主張と、論文自身が認めた限界を§番号付きで読む。