#rag

25 記事

01 ·RAG・検索拡張·★ 会員·論文·11分で読めます 論文解説: Retrieval-Augmented Skill Optimization via Cross-Harness Adaptation — 他人のスキルを借り、自分の環境の言葉に書き直す Retrieval-Augmented Skill Optimization via Cross-Harness Adaptation エージェントの手順書（スキル）を、公開済みスキルの山から検索し、対象の実行環境の語彙に書き直してから使う RASO。試行ゼロの初期化と、失敗から引く更新の2段で、検索なしの最適化手法を4ベンチマーク・2モデルで上回ったと報告する論文を1から解説する。 02 ·RAG・検索拡張·★ 会員·論文·11分で読めます 論文解説: Retrieval-Augmented Skill Optimization via Cross-Harness Adaptation — 他人のスキルを借り、自分の環境の言葉に書き直す Retrieval-Augmented Skill Optimization via Cross-Harness Adaptation エージェントの手順書（スキル）を、公開済みスキルの山から検索し、対象の実行環境の語彙に書き直してから使う RASO。試行ゼロの初期化と、失敗から引く更新の2段で、検索なしの最適化手法を4ベンチマーク・2モデルで上回ったと報告する論文を1から解説する。 03 ·RAG・検索拡張·★ 会員·論文·10分で読めます 論文解説: Ovis-Embedding — 文字・画像・動画・音声を1つの物差しで測る埋め込みモデル Ovis-Embedding: Pushing the Frontiers of Universal Omni-Modal Embeddings テキスト・画像・動画・音声を同じベクトル空間に置く埋め込みモデル群 Ovis-Embedding を、比喩→式→動く図→コードの順で1から解説。4段階の学習手順、ベクトルを短く切っても精度を保つ工夫、論文が示していない点まで整理する。 04 ·RAG・検索拡張·★ 会員·論文·10分で読めます 論文解説: Ovis-Embedding — 文字・画像・動画・音声を1つの物差しで測る埋め込みモデル Ovis-Embedding: Pushing the Frontiers of Universal Omni-Modal Embeddings テキスト・画像・動画・音声を同じベクトル空間に置く埋め込みモデル群 Ovis-Embedding を、比喩→式→動く図→コードの順で1から解説。4段階の学習手順、ベクトルを短く切っても精度を保つ工夫、論文が示していない点まで整理する。 05 ·RAG・検索拡張·★ 会員·論文·9分で読めます 論文解説: D-RAC — PDFに正規化し、画像を1回だけ読んでMarkdown化するRAG取り込み Document Retrieval-Aware Chunking (D-RAC): Universal Retrieval-Aware Ingestion of Enterprise Documents via PDF Normalization and Multimodal Markdown Conversion 社内のPDF・Word・スライドをまずPDFにそろえ、マルチモーダルLLMで1回だけMarkdown化し、あとはIDだけでチャンクを決める取り込み手法D-RACを、前提知識なしで解説します。 06 ·RAG・検索拡張·★ 会員·論文·9分で読めます 論文解説: D-RAC — PDFに正規化し、画像を1回だけ読んでMarkdown化するRAG取り込み Document Retrieval-Aware Chunking (D-RAC): Universal Retrieval-Aware Ingestion of Enterprise Documents via PDF Normalization and Multimodal Markdown Conversion 社内のPDF・Word・スライドをまずPDFにそろえ、マルチモーダルLLMで1回だけMarkdown化し、あとはIDだけでチャンクを決める取り込み手法D-RACを、前提知識なしで解説します。 07 ·学習手法・アライメント·★ 会員·論文·16分で読めます 論文解説: SpeakerMem-R1 — グループチャットの「誰が・誰について・いつ」を忘れない二重記憶 SpeakerMem-R1: Speaker-Centered Dual-Track Memory for Multi-Party Dialogue 複数人の会話を長期記憶するSpeakerMem-R1を1から解説。発言の原文と「人ごと・グループごと」に整理した状態を二本立てで持ち、記録係の小型モデル(Qwen2.5-3B)を話者ごとに採点する強化学習で鍛える仕組みを、式と実験結果から読み解く。 08 ·RAG・検索拡張·無料·10分で読めます RAG vs ファインチューニング — どちらを、いつ選ぶか LLMを賢くする二大手法を、知識の鮮度・コスト・幻覚・データ量の4軸で比べる。比喩→仕組み(式)→動く図→判断表→現場の落とし穴まで、前提知識ゼロから。 09 ·RAG・検索拡張·★ 会員·論文·18分で読めます 論文解説: Hi-Q — 質問を「検索できる粒度」まで、証拠を見ながら割っていく Hi-Q: Hierarchical Evidence-guided Query Refinement for Multi-Hop Question Answering 多段推論QAの本当のボトルネックは「質問の粒度」と「検索できる粒度」のズレにある。Hi-Qは、まず答えてみて答えられなかったノードだけを依存順に二分割していく。しきい値としての制御、木の育て方、そして実測値を前提知識ゼロから解説する。 10 ·RAG・検索拡張·★ 会員·論文·18分で読めます 論文解説: Hi-Q — 質問を「検索できる粒度」まで、証拠を見ながら割っていく Hi-Q: Hierarchical Evidence-guided Query Refinement for Multi-Hop Question Answering 多段推論QAの本当のボトルネックは「質問の粒度」と「検索できる粒度」のズレにある。Hi-Qは、まず答えてみて答えられなかったノードだけを依存順に二分割していく。しきい値としての制御、木の育て方、そして実測値を前提知識ゼロから解説する。 11 ·音声系·★ 会員·論文·21分で読めます 論文解説: VoiceMem — 音声対話に「左脳と右脳」の記憶を、遅延ゼロで VoiceMem: Streaming Dual-Brain Memory for Real-Time Interaction リアルタイム音声対話に記憶を持たせるVoiceMemを1から解説。事実を扱う「左脳」と人柄・感情を扱う「右脳」を並列に置き、VADが待つ無音の中に検索を隠すことで、top-5という極小の予算のまま精度を上げる仕組みを読み解く。 12 ·RAG・検索拡張·★ 会員·論文·18分で読めます 論文解説: WeMM-Embedding — 文も画像も動画も「同じ物差し」に載せるWeChatの埋め込みモデル WeMM-Embedding: WeChat Multi-Modal Embedding Technical Report テキスト・画像・動画・文書とその混合を1本のベクトルに落とすWeMM-Embedding(2B/4B/9B)のテクニカルレポートを解説。統一ペア形式、<embedding>トークン、マトリョーシカ次元、2段階学習と蒸留を、論文の数値だけで1から読み解く。 13 ·RAG・検索拡張·★ 会員·論文·18分で読めます 論文解説: WeMM-Embedding — 文も画像も動画も「同じ物差し」に載せるWeChatの埋め込みモデル WeMM-Embedding: WeChat Multi-Modal Embedding Technical Report テキスト・画像・動画・文書とその混合を1本のベクトルに落とすWeMM-Embedding(2B/4B/9B)のテクニカルレポートを解説。統一ペア形式、<embedding>トークン、マトリョーシカ次元、2段階学習と蒸留を、論文の数値だけで1から読み解く。 14 ·RAG・検索拡張·★ 会員·論文·16分で読めます RAG評価の実務 — 「なんとなく良い」を数字にする RAGAS: Automated Evaluation of Retrieval Augmented Generation RAGの改善が迷子になるのは、良し悪しを一つの感覚で見ているからだ。検索と生成を切り離して測る指標、忠実性と関連性の定義、合成QAで評価セットを作る手順とその落とし穴、そして何問あれば数字を信じてよいのかまでを1から積み上げる。 15 ·LLM — 大規模言語モデル·無料·論文·11分で読めます ハルシネーションはなぜ起きる — 仕組みと現実的な対策 Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks LLMが平然と嘘をつくのはバグではなく、次トークン予測という学習目的の素直な帰結。損失関数に真偽の項がないこと、圧縮された知識が端から崩れること、サンプリングが裾を引くこと、採点方法が当てずっぽうに報酬を与えることを1から分解し、RAG・引用照合・不確実性推定という現場で実際に効く順に対策を並べる。 16 ·RAG・検索拡張·★ 会員·論文·18分で読めます 【実装】ベクトルDBを自作する — 線形走査からHNSWへ Efficient and robust approximate nearest neighbor search using Hierarchical Navigable Small World graphs ベクトル検索の中身を、20行の線形走査から段階的に組み立てる。次元の呪い、IVFによる空間分割、HNSWのグラフ探索、量子化までを「再現率と速度の取引」という一本の軸で解説する。 17 ·エージェント·無料·論文·14分で読めます エージェントの記憶設計 — 短期・長期・エピソード MemGPT: Towards LLMs as Operating Systems LLMは何も覚えていません。会話が続いて見えるのは毎ターン全履歴を読み直させているからです。短期・エピソード・長期の3層に分ける設計、想起を決める式、そして最も設計されていない「忘れる」まで、前提知識ゼロから組み立てます。 18 ·RAG・検索拡張·★ 会員·論文·14分で読めます GraphRAGを1から — 知識グラフと検索の融合 From Local to Global: A Graph RAG Approach to Query-Focused Summarization 文書をエンティティと関係の網に組み替えると、普通のRAGでは原理的に答えられない「全体としてどうなのか」に届く。抽出・名寄せ・コミュニティ要約・local/global検索を1から積み上げ、最後に「どこで過剰か」を正直に見積もる。 19 ·RAG・検索拡張·無料·12分で読めます チャンキング戦略 — 分け方で検索は決まる RAGの精度の大半は「文書をどう切るか」で決まる。固定長とオーバーラップの算数、構造分割、意味分割、親子チャンク、そして鬼門である表と数式の扱いまでを1から解説する。 20 ·線形代数·無料·10分で読めます LoRAとRAGを支える線形代数 — 固有値・低ランク・ベクトル検索を、動かして掴む 行列は空間の変形、固有ベクトルは変形しても向きが変わらない方向、SVDはその一般化、内積は「似ている」の定義。LoRAのΔW=BAとRAGのベクトル検索がどちらも同じ線形代数の上に建っていることを、4つの動く図と数式で確かめる。読むだけでなく、スライダーとドラッグで手を動かすためのコラム。 21 ·RAG・検索拡張·無料·論文·9分で読めます 埋め込み(Embedding)を1から理解する — word2vecの直感から文脈化埋め込みまで Efficient Estimation of Word Representations in Vector Space 「王様 − 男 + 女 ≈ 女王」はなぜ成り立つのか。単語を数値の座標に変える埋め込みを、地図の比喩→分布仮説→word2vecの式→numpyコード→BERT以降の文脈化埋め込み→RAG実務の順で、前提知識ゼロから解説します。 22 ·RAG・検索拡張·無料·論文·9分で読めます 埋め込み(Embedding)を1から理解する — word2vecの直感から文脈化埋め込みまで Efficient Estimation of Word Representations in Vector Space 「王様 − 男 + 女 ≈ 女王」はなぜ成り立つのか。単語を数値の座標に変える埋め込みを、地図の比喩→分布仮説→word2vecの式→numpyコード→BERT以降の文脈化埋め込み→RAG実務の順で、前提知識ゼロから解説します。 23 ·論文解説·★ 会員·論文·11分で読めます 論文解説: AskChem — 検索の単位を「論文」から「出典付きクレーム」に変える文献インフラ AskChem: Claim-Centered Infrastructure for Chemistry Literature Synthesis 化学文献の検索単位を論文からDOI＋原文引用つきの「クレーム」に変えたNYU発のインフラ論文を解説。240万クレームの索引・証拠グラフ・ハイブリッド検索の設計と、DOI捏造を88.3%→100%解決に変えた評価、そして限界までを1から読む。 24 ·RAG・検索拡張·無料·10分で読めます RAGの基礎と設計パターン — 埋め込み・チャンク・リランキング・評価を1から 検索拡張生成（RAG）を前提知識ゼロから解説。仕組みの直感、チャンク分割の戦略、ハイブリッド検索とリランキング、そして最重要の評価設計まで。 25 ·RAG・検索拡張·無料·10分で読めます RAGの基礎と設計パターン — 埋め込み・チャンク・リランキング・評価を1から 検索拡張生成（RAG）を前提知識ゼロから解説。仕組みの直感、チャンク分割の戦略、ハイブリッド検索とリランキング、そして最重要の評価設計まで。