学生版 社会人版
JA EN

#rag

18 記事

01 ·RAG・検索拡張·無料·10分で読めます RAG vs ファインチューニング — どちらを、いつ選ぶか LLMを賢くする二大手法を、知識の鮮度・コスト・幻覚・データ量の4軸で比べる。比喩→仕組み(式)→動く図→判断表→現場の落とし穴まで、前提知識ゼロから。 02 ·RAG・検索拡張·★ 会員·論文·18分で読めます 論文解説: Hi-Q — 質問を「検索できる粒度」まで、証拠を見ながら割っていく Hi-Q: Hierarchical Evidence-guided Query Refinement for Multi-Hop Question Answering 多段推論QAの本当のボトルネックは「質問の粒度」と「検索できる粒度」のズレにある。Hi-Qは、まず答えてみて答えられなかったノードだけを依存順に二分割していく。しきい値としての制御、木の育て方、そして実測値を前提知識ゼロから解説する。 03 ·RAG・検索拡張·★ 会員·論文·18分で読めます 論文解説: Hi-Q — 質問を「検索できる粒度」まで、証拠を見ながら割っていく Hi-Q: Hierarchical Evidence-guided Query Refinement for Multi-Hop Question Answering 多段推論QAの本当のボトルネックは「質問の粒度」と「検索できる粒度」のズレにある。Hi-Qは、まず答えてみて答えられなかったノードだけを依存順に二分割していく。しきい値としての制御、木の育て方、そして実測値を前提知識ゼロから解説する。 04 ·音声系·★ 会員·論文·21分で読めます 論文解説: VoiceMem — 音声対話に「左脳と右脳」の記憶を、遅延ゼロで VoiceMem: Streaming Dual-Brain Memory for Real-Time Interaction リアルタイム音声対話に記憶を持たせるVoiceMemを1から解説。事実を扱う「左脳」と人柄・感情を扱う「右脳」を並列に置き、VADが待つ無音の中に検索を隠すことで、top-5という極小の予算のまま精度を上げる仕組みを読み解く。 05 ·RAG・検索拡張·★ 会員·論文·18分で読めます 論文解説: WeMM-Embedding — 文も画像も動画も「同じ物差し」に載せるWeChatの埋め込みモデル WeMM-Embedding: WeChat Multi-Modal Embedding Technical Report テキスト・画像・動画・文書とその混合を1本のベクトルに落とすWeMM-Embedding(2B/4B/9B)のテクニカルレポートを解説。統一ペア形式、<embedding>トークン、マトリョーシカ次元、2段階学習と蒸留を、論文の数値だけで1から読み解く。 06 ·RAG・検索拡張·★ 会員·論文·18分で読めます 論文解説: WeMM-Embedding — 文も画像も動画も「同じ物差し」に載せるWeChatの埋め込みモデル WeMM-Embedding: WeChat Multi-Modal Embedding Technical Report テキスト・画像・動画・文書とその混合を1本のベクトルに落とすWeMM-Embedding(2B/4B/9B)のテクニカルレポートを解説。統一ペア形式、<embedding>トークン、マトリョーシカ次元、2段階学習と蒸留を、論文の数値だけで1から読み解く。 07 ·RAG・検索拡張·★ 会員·論文·16分で読めます RAG評価の実務 — 「なんとなく良い」を数字にする RAGAS: Automated Evaluation of Retrieval Augmented Generation RAGの改善が迷子になるのは、良し悪しを一つの感覚で見ているからだ。検索と生成を切り離して測る指標、忠実性と関連性の定義、合成QAで評価セットを作る手順とその落とし穴、そして何問あれば数字を信じてよいのかまでを1から積み上げる。 08 ·LLM — 大規模言語モデル·無料·論文·11分で読めます ハルシネーションはなぜ起きる — 仕組みと現実的な対策 Survey of Hallucination in Natural Language Generation LLMが平然と嘘をつくのはバグではなく、次トークン予測という学習目的の素直な帰結。損失関数に真偽の項がないこと、圧縮された知識が端から崩れること、サンプリングが裾を引くこと、採点方法が当てずっぽうに報酬を与えることを1から分解し、RAG・引用照合・不確実性推定という現場で実際に効く順に対策を並べる。 09 ·RAG・検索拡張·★ 会員·論文·18分で読めます 【実装】ベクトルDBを自作する — 線形走査からHNSWへ Efficient and robust approximate nearest neighbor search using Hierarchical Navigable Small World graphs ベクトル検索の中身を、20行の線形走査から段階的に組み立てる。次元の呪い、IVFによる空間分割、HNSWのグラフ探索、量子化までを「再現率と速度の取引」という一本の軸で解説する。 10 ·エージェント·★ 会員·論文·14分で読めます エージェントの記憶設計 — 短期・長期・エピソード MemGPT: Towards LLMs as Operating Systems LLMは何も覚えていません。会話が続いて見えるのは毎ターン全履歴を読み直させているからです。短期・エピソード・長期の3層に分ける設計、想起を決める式、そして最も設計されていない「忘れる」まで、前提知識ゼロから組み立てます。 11 ·RAG・検索拡張·★ 会員·論文·14分で読めます GraphRAGを1から — 知識グラフと検索の融合 From Local to Global: A Graph RAG Approach to Query-Focused Summarization 文書をエンティティと関係の網に組み替えると、普通のRAGでは原理的に答えられない「全体としてどうなのか」に届く。抽出・名寄せ・コミュニティ要約・local/global検索を1から積み上げ、最後に「どこで過剰か」を正直に見積もる。 12 ·RAG・検索拡張·★ 会員·12分で読めます チャンキング戦略 — 分け方で検索は決まる RAGの精度の大半は「文書をどう切るか」で決まる。固定長とオーバーラップの算数、構造分割、意味分割、親子チャンク、そして鬼門である表と数式の扱いまでを1から解説する。 13 ·線形代数·無料·10分で読めます LoRAとRAGを支える線形代数 — 固有値・低ランク・ベクトル検索を、動かして掴む 行列は空間の変形、固有ベクトルは変形しても向きが変わらない方向、SVDはその一般化、内積は「似ている」の定義。LoRAのΔW=BAとRAGのベクトル検索がどちらも同じ線形代数の上に建っていることを、4つの動く図と数式で確かめる。読むだけでなく、スライダーとドラッグで手を動かすためのコラム。 14 ·RAG・検索拡張·無料·論文·9分で読めます 埋め込み(Embedding)を1から理解する — word2vecの直感から文脈化埋め込みまで Efficient Estimation of Word Representations in Vector Space 「王様 − 男 + 女 ≈ 女王」はなぜ成り立つのか。単語を数値の座標に変える埋め込みを、地図の比喩→分布仮説→word2vecの式→numpyコード→BERT以降の文脈化埋め込み→RAG実務の順で、前提知識ゼロから解説します。 15 ·RAG・検索拡張·無料·論文·9分で読めます 埋め込み(Embedding)を1から理解する — word2vecの直感から文脈化埋め込みまで Efficient Estimation of Word Representations in Vector Space 「王様 − 男 + 女 ≈ 女王」はなぜ成り立つのか。単語を数値の座標に変える埋め込みを、地図の比喩→分布仮説→word2vecの式→numpyコード→BERT以降の文脈化埋め込み→RAG実務の順で、前提知識ゼロから解説します。 16 ·論文解説·★ 会員·論文·11分で読めます 論文解説: AskChem — 検索の単位を「論文」から「出典付きクレーム」に変える文献インフラ AskChem: Claim-Centered Infrastructure for Chemistry Literature Synthesis 化学文献の検索単位を論文からDOI＋原文引用つきの「クレーム」に変えたNYU発のインフラ論文を解説。240万クレームの索引・証拠グラフ・ハイブリッド検索の設計と、DOI捏造を88.3%→100%解決に変えた評価、そして限界までを1から読む。 17 ·RAG・検索拡張·★ 会員·10分で読めます RAGの基礎と設計パターン — 埋め込み・チャンク・リランキング・評価を1から 検索拡張生成（RAG）を前提知識ゼロから解説。仕組みの直感、チャンク分割の戦略、ハイブリッド検索とリランキング、そして最重要の評価設計まで。 18 ·RAG・検索拡張·★ 会員·10分で読めます RAGの基礎と設計パターン — 埋め込み・チャンク・リランキング・評価を1から 検索拡張生成（RAG）を前提知識ゼロから解説。仕組みの直感、チャンク分割の戦略、ハイブリッド検索とリランキング、そして最重要の評価設計まで。