体系
AI
機械学習の基礎から、CNN・Transformer・VLM・エージェントまで。モデルが「なぜその形になったのか」を系譜でたどる。
機械学習の基礎10学習とは何か・損失関数・過学習・評価まで、すべての土台
- 第1 機械学習とは何か — 「学習」を数式なしで理解する
- 第2 損失関数と最適化 — モデルはどうやって「間違いから学ぶ」のか
- 第3 過学習と評価設計 — 精度99%を疑え
- 第4 決定木と勾配ブースティング — 表データ最強の座は今も
- 第5 教師なし学習を1から — クラスタリングと次元削減
- 第6 自己教師あり学習 — ラベルなしデータが宝になった日
- 第7 データリークと実験管理 — 精度が高すぎたら疑うこと
- 第8 不均衡データの実務 — 99%が正常のとき何を最適化するか
- 第9 MLシステム設計 — モデルの外側の9割
- 第10 検証データの割合は何対何にするのか — 振って測ったら、効いていたのは割合ではなく件数だった
深層学習の基礎7ニューラルネット・逆伝播・最適化・正則化
CNN・画像認識9畳み込みの発明からResNet・軽量化・物体検出まで
- 第18 画像分類を1から理解する — 畳み込みという発明
- 第19 物体検出を1から解説（YOLO・DETRまで）
- 第20 CNNアーキテクチャの系譜 — AlexNetからResNet・EfficientNetまで
- 第21 自動運転の認識スタックを1から — カメラとLiDARは何を分担しているのか
- 第22 異常検知を1から — 正常だけから学ぶという発想
- 第23 医用画像とAI — 精度より先に問われる検証設計
- 第24 ImageNetの瞬間 — 深層学習が勝った日
- 第25 論文解説: TurboVLA — LLMを追い出したロボット方策が、RTX 4090・VRAM 1GB未満で32Hzを叩き出す
- 第26 論文解説: PhiZero — 映像を描く前に「物理の言葉」で考える世界モデル
Transformerの仕組み16Attention・位置エンコーディング・アーキテクチャの解剖
- 第27 Attention機構を1から理解する — Transformerの心臓部を絵解きで
- 第28 位置エンコーディングを1から理解する（絶対位置からRoPEまで）
- 第29 トークナイザを1から — LLMが世界を切り刻む単位
- 第30 Attentionの変種図鑑 — MQA・GQA・スライディング窓・線形注意
- 第31 Transformer完全解剖 — 埋め込みから出力まで一気通貫
- 第32 FlashAttentionを1から — 計算を増やして速くする逆説
- 第33 長文脈LLMの技術 — RoPE補間からリング注意まで
- 第34 エンコーダとデコーダ — BERTとGPTの分岐点
- 第35 【実装】BPEトークナイザを自作する — マージ規則を学習し、日本語で殴られる
- 第36 【実装】ミニGPTを自作する — 300行の言語モデル
- 第37 論文解説: Qwen3.8-Next の設計 — 精度・効率・学習安定性を1つの問題として解く
- 第38 論文解説: Gated DeltaNet はなぜ4bit量子化に耐えるのか — ハイブリッド27BのNVFP4 W4A4
- 第39 論文解説: 最初の1枚を基準にするのをやめる — Scal3R の複数参照・相対姿勢クエリ
- 第40 論文解説: SAS — 疎注意の「どのブロックを読むか」を言語モデル損失で端から端まで学習する
- 第41 論文解説: LimiX-2 — 「答えの列」ではなく「表全体の仕組み」を学ぶ表データ基盤モデル
- 第42 論文解説: Your Transformer Can Hold Two Thoughts at Once — 2本の文章を混ぜてもLLMは両方の続きを覚えている
- 論文解説: Building AI Research Teams for Autonomous Discovery of Linear Attention Architectures 執筆予定
LLM — 大規模言語モデル22スケーリング則・プロンプティング・LLMの内部挙動
- 第43 スケーリング則を1から解説 — なぜ大きくすると賢くなるのか
- 第44 プロンプトエンジニアリングの科学 — 何が実証され、何が迷信か
- 第45 Mamba と状態空間モデル(SSM) — 注意機構なしで系列を扱う
- 第46 事前学習データの作り方 — Webから教科書品質へ
- 第47 LLM評価を1から — ベンチマークの読み方と汚染問題
- 第48 ハルシネーションはなぜ起きる — 仕組みと現実的な対策
- 第49 推論時スケーリング — 「長く考える」モデルの原理
- 第50 知識蒸留を1から — 大きなモデルを小さく写す
- 第51 アライメント概説 — RLHFからConstitutional AIまで
- 第52 スケーリング懐疑論 — 「大きくするだけ」批判の系譜
- 第53 論文解説: 危機映像のAI捏造は見抜けるか — RA-Benchが暴いた検出器の実力
- 第54 論文解説: SA-MRPO — 満点の科目を勉強し続けるな。飽和した報酬から勾配を引きはがす
- 第55 論文解説: Agentic Artifact Creation — 「生成」と「納品物を組み立てる」はどう違うのか
- 第56 論文解説: Puro-2B — コンシューマGPUで2Bモデルを$6.9Kからゼロ事前学習する
- 第57 論文解説: RealSWE — 「バグ直して」だけの依頼でコーディングエージェントを測り直す
- 第58 論文解説: FlowBalance — 検証器で接地した自己改善、自分の推論経験から分布を学ぶ
- 第59 論文解説 Feyospace-v1 — 7人のチームが「環境」でサイバーAIを鍛えた話
- 第60 論文解説: OmniEdu — 「解く・位置づける・見立てる・導く」の4能力で作る教育用オープンLLM
- 第61 論文解説: Beyond Solver Verdicts — ソルバーが「正しい」と言っても翻訳は間違っているかもしれない
- 第62 論文解説: Training Object Permanence in World Models — 動画モデルに「見えなくても物はそこにある」を教える
- 第63 論文解説: Just-in-Time Memory — エージェントの記憶は「読むとき」に整える
- 第64 論文解説: Bellman Policy Optimization — 価値モデルなしで「方策ミラー降下」をLLMに持ち込む
- 論文解説: Make Sparse Rewards Count: Density-Aware Reward Aggregation for Multi-Reward RL 執筆予定
- 論文解説: Does Learning Protein Folding Generalize to Broader Reasoning? 執筆予定
- 論文解説: Questioning the Questions: Sustaining Self-Evolution in Reasoning Models 執筆予定
- 論文解説: U-Space: Uncovering When and Why Uncertainty Arises in Language Models 執筆予定
- 論文解説: S-Space: Exploring Spatial Workspace in Multimodal Language Models 執筆予定
- 論文解説: TPPO: Tracking-Value PPO For Language Model Reasoning 執筆予定
- 論文解説: Any Time, Any Space: A World-State-Centric Framework for Agentic Video Generation 執筆予定
- 論文解説: Doc2Harness: Benchmarking LLMs on Long-Horizon Harness Engineering of Coding Agents 執筆予定
- 論文解説: Has GPT-6-Astra Achieved Embodied Intelligence? 執筆予定
- 論文解説: Deep Search in Real-World Web Environments 執筆予定
- 論文解説: Spectral-Spatial Interpretation 執筆予定
- 論文解説: Toward Recursive Self-Improvement in Physical AI 執筆予定
- 論文解説: TraceForge: Distilling with Your Own Thinking 執筆予定
- 論文解説: CulturalRiddles: A Multicultural Benchmark of Riddles 執筆予定
VLM・マルチモーダル6CLIP・ViT・画像と言語を同じ空間に置く技術
生成モデル10拡散モデル・VAE・GAN。「作る」側のモデル
- 第71 拡散モデルを1から理解する — ノイズを足して、引く
- 第72 VAEを1から — 「圧縮して戻す」に確率を混ぜると生成になる
- 第73 GANの栄枯盛衰 — 敵対で学ぶ発明と、拡散に負けた理由
- 第74 Flow Matchingを1から — 拡散の次に来た「まっすぐ運ぶ」生成
- 第75 CFGとサンプラー — 生成AIの「強さ」パラメータの正体
- 第76 拡散モデルの数学 — スコアとSDEで見る生成
- 第77 画像生成の実務地図 — SD・ControlNet・LoRA適用
- 第78 音楽・音声生成を1から — トークン化された音
- 第79 3D生成のいま — NeRFからGaussian Splattingまで
- 第80 【実装】拡散モデルを自作する — MNISTからはじめる
学習手法・アライメント22事前学習・SFT・RLHF/DPO・ファインチューニング
- 第81 Instruction Tuning と RLHF を1から解説 — 指示に従うモデルはどう作られるか
- 第82 学習率スケジュール — warmupとcosineの理由
- 第83 混合精度学習 — fp16/bf16/fp8で壊れずに速くする
- 第84 LoRA と全パラメータ微調整 — 何を失い、何を得るか
- 第85 データセット構築の実務 — 集める・洗う・混ぜる
- 第86 DPOとその後 — RLHFを単純化する系譜
- 第87 継続学習と破滅的忘却 — 学び続けるモデルの難しさ
- 第88 学習が壊れた時の診断学 — loss発散・NaN・停滞の切り分け
- 第89 データとモデルのバージョン管理 — 再現できない実験は存在しない
- 第90 論文解説: ABSeeker — 答えから逆算して「良い一手」を採点する、長距離検索エージェントの訓練法
- 第91 論文解説 PAWBench — 動画生成は「起こりうる未来の確率」まで当てられるのか
- 第92 論文解説: PaperGym — 論文1本を「採点基準つきの練習場」に変えて研究計画を学習させる
- 第93 論文解説: StudentSim — 「その生徒そのもの」を訓練で作る学習者シミュレータ
- 第94 論文解説: It Takes Two to Match — 検索の「両側」をRLで共進化させるCoGR
- 第95 論文解説: DataFlex-RL — RLVRの「データ政策」11手法は一様サンプリングに勝てたか。12シードで測り直した結果
- 第96 論文解説: SpeakerMem-R1 — グループチャットの「誰が・誰について・いつ」を忘れない二重記憶
- 第97 論文解説: WanPE — 動画生成のプロンプトを「監督の撮影計画」に変える
- 第98 論文解説: 言い回しで点が変わるAI査読者をどう測り、どう直すか — RobustReview と SciCore
- 第99 論文解説: Transformers Stop Thinking Too Early — 3行で止まる参照追跡を、1層のランク8 LoRAが50行へ伸ばす
- 第100 QLoRA — 650億パラメータのモデルをGPU 1枚で微調整する
- 第101 ゼロから学ぶLoRA — 細い行列2枚だけを学習して巨大モデルを微調整する
- 第102 ゼロから学ぶAdam — 2つの移動平均と、誰も説明しないバイアス補正
- 論文解説: Scaling Trajectories for Complex Tasks through Recursive Self-Rewrite 執筆予定
- 論文解説: On-Policy Parameter Update Direction Underlies Generalization in LLM Post-Training 執筆予定
- 論文解説: TRACE: Rollout-Guided Quantization-Aware Training for FP4 Reinforcement Learning of MoE Language Models 執筆予定
- 論文解説: LMBuild: Evaluating LLM Agents for Generating Buildable and Functional Structures 執筆予定
- 論文解説: DreamTrue: Action-Faithful Robot World Model with Counterfactual Post-Training 執筆予定
- 論文解説: Scene-Designer: Learning Design Intelligence for Agentic 3D Scene Generation 執筆予定
- 論文解説: EgoXperience: Learning World-Grounded Egocentric Representations from Human Experience 執筆予定
- 論文解説: IQuest-Q1: Advancing Foundation Capabilities for Agentic CLI Systems 執筆予定
推論・高速化45KVキャッシュ・量子化・バッチング・サービング
- 第103 KVキャッシュを1から理解する — 推論高速化の核心
- 第104 LLM量子化を1から解説 — なぜ精度を落としても動くのか
- 第105 投機的デコーディングを1から解説 — 小さな下書きモデルで、出力を一切変えずにLLMを速くする
- 第106 KVキャッシュ圧縮 — 量子化・追い出し・共有で長文推論を軽くする
- 第107 LLMサービングを1から — vLLM・連続バッチングで、GPUを遊ばせない
- 第108 構造化出力と制約デコーディング — JSONを壊さない仕組み
- 第109 GPUメモリ不足サバイバル — OOMの原因と対処の全パターン
- 第110 推論コスト削減の実務 — 何から手を付けるか
- 第111 プロンプトキャッシュとコンテキスト設計 — 前方一致という一本の制約が、請求額を桁で変える
- 第112 論文解説: The Personalization Mirage — LLMは「あなた」を勝手に作り上げ、自己申告は逆を指す
- 第113 論文解説: DAPD — 蒸留の教師が持つ「カンニングペーパーの幻想」を二重アンカーで断つ
- 第114 論文解説: CodeNib — コーディングエージェントにリポジトリの文脈を「配膳」する多ビューデータシステム
- 第115 論文解説: BDH-CQ — 言葉にせずに考えるAI。再帰メモリ×潜在推論がARCのコスト効率を塗り替えた
- 第116 論文解説: AgentOPSD — 「どのターンが勝敗を分けたか」をベイズ信念の再帰更新で見つけるエージェントRL
- 第117 論文解説: 正解も強い教師もなしで伸びる — u-OPSD が使う「自分の多数決」
- 第118 論文解説: Agentic ESOpt — 逆伝播をやめて「モデルを揺らす」だけで、長丁場のLLMエージェントを鍛える
- 第119 論文解説 WarpSAC: 強化学習の「安定化装置」は、データが潤沢になると足枷に変わる
- 第120 論文解説 TTPO: 正解ラベルなしで、テストの最中にモデルを鍛える
- 第121 論文解説: Self-OPD — 教師モデルなしで、画像生成モデルが自分を蒸留する
- 第122 論文解説: CyberFactory — 野生のCVEを「実行できる訓練問題」に変える
- 第123 論文解説: DART-SD — ツール呼び出しエージェントの「ダイヤ型の解空間」を壊さずに学習する
- 第124 論文解説 SMELT — 「同じ層をもう一周」は、予算を揃えても得なのか
- 第125 論文解説: Normalized Low-Rank Adaptation — LoRAの「入口行列」を正規化するだけで効く理由
- 第126 論文解説: 本番トラフィックから事後学習へ — 社内200アプリを1つの自前LLMに寄せる
- 第127 論文解説: On-Policy Distillationは本当に蒸留しているのか — ノイズまみれの教師から自己改善へ
- 第128 論文解説: LatentPress — 圧縮した文脈を、テキストにも画像にも戻さずLLMに直接読ませる
- 第129 論文解説: Language Models Can Control Their Own Attention — モデルに「どこを見るか」を宣言させる
- 第130 論文解説: Compile by Training — 自然言語の仕様を「手元で動く関数」にコンパイルする
- 第131 論文解説: 訓練データが1問でも、オンポリシー蒸留は数百ステップ伸び続ける
- 第132 論文解説: Random Attention — KVキャッシュの追い出しは「ランダムで十分」だった
- 第133 論文解説: On-Policy Reverse Distillation — 弱い教師を「目標」でなく「方向」として使う
- 第134 論文解説: BeaconKV — 「思考を読み返す瞬間」を先読みしてKVキャッシュを捨てる
- 第135 論文解説: Online Draft Co-Training for Speculative Decoding in Large-Scale, Long-Context RL Post-Training — 122B・256Kトークンで下書きモデルを方針と一緒に学習させる
- 第136 論文解説: Steering Geometry — LLMの「操縦ベクトル」は人間の価値観の地図を映しているか
- 第137 論文解説: FreeFlow — 専用部品ゼロの階層Transformerでオプティカルフローを解く
- 第138 論文解説: An Open Recipe for IMO Gold — オープンモデルで国際数学オリンピック金メダル水準に届いた「生成・検証・修正」の設計
- 第139 論文解説: When EOS Tokens Disagree — オンポリシー蒸留で生徒が「止まれなくなる」原因は終了トークンの食い違いだった
- 第140 論文解説: Negative Self-Distillation — 「ダメな自分」から離れて推論を学ぶ
- 第141 論文解説: IntBMoE — 全専門家を「参加」させつつ、計算は少数ブロックだけで済ませるMoE
- 第142 論文解説: DeepSeek-V4.1-Flash — KVキャッシュ圧縮をどこまで詰められるか
- 第143 論文解説: JEV-as-a-Judge — 自信があれば採用、迷ったら上位の審査員へ
- 第144 論文解説: RewardVerse — 採点表を先に作ってから動画を採点する報酬モデル（RGPO）
- 第145 論文解説: Disaggregated Quantization — LLMの「読む」と「書く」で量子化を分ける
- 第146 論文解説: Post-Training Leaves Behavioral Shadows on Unrelated Decisions — 無関係な「1単語」から能力が移る
- 第147 論文解説: Beyond Teacher Assignment — 複数の専門家を1つのモデルに蒸留するとき「誰が教えるか」だけでは足りない理由
- 論文解説: Scaling Properties of Same-Family On-Policy Distillation 執筆予定
- 論文解説: The Teacher Is a Direction, Not a Destination: Extrapolating RL-Induced Representation Residuals in On-Policy Distillation 執筆予定
- 論文解説: Periodic Weak Spots: Phase Sensitivity from Chunked KV-Cache Compression 執筆予定
- 論文解説: On-Policy or Off-Policy Learning? A Systematic Study of Distillation Dynamics 執筆予定
- 論文解説: Latent-MOPD: Latent Multi-Teacher On-Policy Distillation 執筆予定
- 論文解説: Rethinking Cross-Tokenizer On-Policy Distillation: From Alignment Coverage to Supervision Reliability 執筆予定
- 論文解説: TokenRouter: Efficient Serving System for Token-Level LLM Routing 執筆予定
- 論文解説: Foundations of Large Language Models 執筆予定
- 論文解説: Continually Post-training Small Models via Synthetic Self-distillation 執筆予定
- 論文解説: Thinking Inertia: LLMs Keep Thinking When Told Not To 執筆予定
- 論文解説: Jeva: System One Models from First Principles 執筆予定
- 論文解説: Beyond Domain-Routed Supervision: Cross-Teacher Guarding for Multi-Teacher On-Policy Distillation 執筆予定
- 論文解説: Recovering Reliable Supervision via Critique-Guided On-Policy Distillation 執筆予定
- 論文解説: Waypoint-OPD: Transferring RL-Induced Policy Shifts via Gated On-Policy Distillation 執筆予定
- 論文解説: Mosaic: Multi-Session Agentic Reinforcement Learning 執筆予定
- 論文解説: LEV: Thinking Fast and Deep with Looped Decision Models 執筆予定
- 論文解説: PremiseCheck: Efficient Fact-Checking of Human and AI Peer Reviews 執筆予定
- 論文解説: PAR: Progress-Aligned Recurrence for Length Generalization in State Tracking 執筆予定
- 論文解説: Ropedia W0: Scaling Loco-Manipulation World Models across Embodiments with Human Experience 執筆予定
- 論文解説: SolarRenderer: Few-Step Generative Reference Rendering 執筆予定
- 論文解説: Cache Engineering for Agents 執筆予定
- 論文解説: Editing Images into Reusable Layers via Compositional Edit-Prior Distillation 執筆予定
- 論文解説: Deep Fusion Memory: A Chunk-Level Parametric Memory for Large Language Models 執筆予定
RAG・検索拡張13埋め込み・チャンク戦略・リランキング・評価
- 第148 RAGの基礎と設計パターン — 埋め込み・チャンク・リランキング・評価を1から
- 第149 RAG vs ファインチューニング — どちらを、いつ選ぶか
- 第150 埋め込み(Embedding)を1から理解する — word2vecの直感から文脈化埋め込みまで
- 第151 推薦システムと埋め込み — RAGと同じ数学、違う目的
- 第152 チャンキング戦略 — 分け方で検索は決まる
- 第153 GraphRAGを1から — 知識グラフと検索の融合
- 第154 RAG評価の実務 — 「なんとなく良い」を数字にする
- 第155 【実装】ベクトルDBを自作する — 線形走査からHNSWへ
- 第156 論文解説: WeMM-Embedding — 文も画像も動画も「同じ物差し」に載せるWeChatの埋め込みモデル
- 第157 論文解説: Hi-Q — 質問を「検索できる粒度」まで、証拠を見ながら割っていく
- 第158 論文解説: Ovis-Embedding — 文字・画像・動画・音声を1つの物差しで測る埋め込みモデル
- 第159 論文解説: D-RAC — PDFに正規化し、画像を1回だけ読んでMarkdown化するRAG取り込み
- 第160 論文解説: Retrieval-Augmented Skill Optimization via Cross-Harness Adaptation — 他人のスキルを借り、自分の環境の言葉に書き直す
- 論文解説: MemT-1.0: Towards Memory-Native Evolution 執筆予定
- 論文解説: Retrieval Augmented Generation Compositionality 執筆予定
エージェント58ツール使用・計画・マルチエージェント
- 第161 LLMエージェントを1から解説 — ツール使用とループの設計
- 第162 End-to-End運転を1から — 認識から制御までを1つのネットワークで
- 第163 MCPとツールプロトコル — エージェントの手をつなぐ規格
- 第164 マルチエージェント設計パターン — 分担・討論・検証
- 第165 エージェントの記憶設計 — 短期・長期・エピソード
- 第166 エージェント評価 — ベンチとハーネスの作法
- 第167 AlphaGoを1から — 探索と学習の結婚
- 第168 【実装】エージェントループを自作する — ツール呼び出しの最小形
- 第169 論文解説: SWE-Bench ProMax — 多言語・大規模リファクタリングでコーディングエージェントの本当の実力を測る
- 第170 論文解説: Macaron-V1 — 凍結ベース×LoRA混合で「出荷後も育つ」エージェントモデルを作る
- 第171 論文解説: EnvACE — 環境まで自分で演じる「world rehearsal」がエージェントRLの環境不足を解く
- 第172 論文解説: Video-DeepResearch — 動画を「見て、調べ尽くす」次世代マルチモーダル・エージェント
- 第173 論文解説: ToolArtist — 検索するか、描くか、描き直すか。それも自分で決める画像生成エージェント
- 第174 論文解説: Recursive Synthesis — 検証済みタスクを「増築」して、長時間ターミナル課題を4万件量産する
- 第175 論文解説: Qwen-UI-Agent — スマホもPCも操る「実世界基準」のGUIエージェントはこう作られた
- 第176 論文解説: OSReward — AIの「採点者」は信用できるか。コンピュータ操作エージェントの報酬を測り直す
- 第177 論文解説: Metis — 記憶を外付けせず、モデルの中に住まわせる「Memory Foundation Model」
- 第178 論文解説: MerchantBench — LLMエージェントは1年間ネットショップを経営できるか。人間の27.3%しか稼げない理由
- 第179 論文解説: Mental World Modeling — 物理だけでなく「心」まで遷移させるワールドモデル
- 第180 論文解説: LongHorizon-Harness — 長時間タスクは「実行」ではなく「状態管理」で解く
- 第181 論文解説: Frontis-MA1 — 「AIを作るAI」を鍛える。MLエンジニアリングで再帰的自己改善に一歩迫るOpenMLE
- 第182 論文解説: ComBodied Agents — エージェントの「作用対象」を人そのものに置き直す
- 第183 論文解説: 共進化するエージェント系 — 人間の設計を超えた自己進化への三段階
- 第184 論文解説: Zetta ζ — 方策を凍結したまま、ロボットが実行中に自分を直す「閉ループ・ハーネス」
- 第185 論文解説 SemaPLC — 「できました」と言わせない検証ゲート型エージェント
- 第186 論文解説: OmniScientist — 生データを直接「見る」AI科学者。36ケースを1つのエンジンで走らせる
- 第187 論文解説: FACET — 指示・環境・解答・採点を「同じ実行状態」に接地させる課題合成
- 第188 論文解説: Agent Skillsはなぜ効くのか、そしてどこで壊れるのか
- 第189 論文解説: Co-RL — 正解ラベルなしでも、群れの多様性から推論が立ち上がる
- 第190 論文解説: FreeToken — 手元のPCを「一台の推論基盤」として使い切る帯域適応型MoEサービング
- 第191 論文解説: Embodied-Navigator（TAMP-Nav） — VLMに「指を差させる」と、ナビゲーションは速く強くなる
- 第192 論文解説: ASI-Bench — 手引きを1枚ずつ剥がして、AIの「自力」を測る
- 第193 論文解説: FrontierChallenge — 科学の仕事を「最後まで納品できたか」で測る
- 第194 論文解説: JIT-Agent — エージェントの「ハーネス」をその場で書き起こすモデル
- 第195 論文解説: ZimaBlue — 12万時間の一人称動画でロボットを汎化させる
- 第196 論文解説: 良いエージェント学習データとは何か — ACE（正確さ・複雑さ・多様性）という見方
- 第197 論文解説 UrbanGround: 街に降ろされたMLLMエージェントは、どこで崩れるのか
- 第198 論文解説: UI-Venus-2 — 画面を見て操作するAIを、ベンチマークから実運用へ
- 第199 論文解説: Training Agents to Evolve with Their Harness — ハーネスごと進化するエージェントを訓練する
- 第200 論文解説: StarHarness — モデルを凍結したまま「ハーネス」を進化させる
- 第201 論文解説: SecOPD — トークン1個ずつ採点して、適応的プロンプトインジェクションを1桁下げる
- 第202 論文解説: Repo-To-Skill — GitHubリポジトリを「AIのためのスキル」に蒸留する
- 第203 論文解説: PILOT in the Loop — 走っている最中に直す「ライブ自己改善」
- 第204 論文解説: LoopArena — コーディングエージェントを「操縦する側」を測る
- 第205 論文解説: Code World Model — コーディングエージェントを「世界の脳」にする
- 第206 論文解説: Code as Worlds — 世界を「実行できるコード」として書き起こすエージェント
- 第207 論文解説: AutoSaddler — エージェントの失敗ログから「壊れないハーネス」を自動で育てる
- 第208 論文解説: HarnessDev — LLMは自分のエージェント・ハーネスを作り、育てられるか
- 第209 論文解説: EarlyEval — エージェント評価を「途中で打ち切って」安くする
- 第210 論文解説: Aspire — モデルは「曖昧な目標」から自己進化できるか
- 第211 論文解説: Terminal-Universe — エージェントの作業ログを、何度でも使える実行環境に戻す
- 第212 論文解説: CogEvol — 報酬が測れないものを、強化学習は静かに壊す
- 第213 論文解説: いつ経験を「再利用しない」か — 自律ポストトレーニングの条件付き経験転移(BCIT)
- 第214 論文解説: WHALE — モデルの重みとハーネスを交互に鍛える
- 第215 論文解説: S³Gym — 自己テストと自己採点は、自己改善になるのか
- 第216 論文解説 Editable Visual Design — 画像生成を「下書き」に降格させ、成果物はHTMLで納品する
- 第217 論文解説: Iris — 検索エージェントを「登らせる」問題合成とSFT↔RL交互学習
- 第218 論文解説: SafeActBench — 道具を使うエージェントは「実行」より手前で失敗する
- 論文解説: Bilevel Coordinated Reflection: A Game-Theoretic Approach to Multi-Agent LLM Systems 執筆予定
- 論文解説: Dr. Claw: An AI Scientist Workspace for Vibe Research 執筆予定
- 論文解説: Unlocking Lossless Speedups in LLMs via Discrete Diffusion 執筆予定
- 論文解説: NeoHorse-1: Towards Recursive Self-Improvement via Agentic Post-Training with Routing Harness 執筆予定
- 論文解説: Omni Interaction Agent Technical Report 執筆予定
- 論文解説: DriveZero: End-to-End Driving Beyond Human Demonstrations 執筆予定
- 論文解説: Show-Harness: Just a VLM Agent Can Play Robots 執筆予定
- 論文解説: AgentGrad: Intervention-guided Prompt Optimization for Multi Agent Systems 執筆予定
- 論文解説: Programmable World Model 執筆予定
- 論文解説: Procedural Graphs: Self-Evolving Execution Structures for LLM Agents 執筆予定
- 論文解説: T1: Terminal Agent Reinforcement Learning for Long-Horizon Tasks 執筆予定
- 論文解説: Scaling Automatic Research Agents via World Models 執筆予定
- 論文解説: EvoSafeHarness: Evolving Model- and Domain-Specific Harnesses for Securing Agents 執筆予定
- 論文解説: Agentic Visual Generation: From Generative Models to Agentic Control 執筆予定
- 論文解説: Benchmark Radar: A Living Database and Search Engine for AI Benchmarks and Evaluation 執筆予定
- 論文解説: RRSI: Regularized Recursive Self-Improvement of Agent Harnesses 執筆予定
- 論文解説: EvoOntology: A Self-Evolving Ontology Layer for Data Agents 執筆予定
- 論文解説: CodeMidas: Scaling Agentic Coding RL Environments from Code Itself 執筆予定
- 論文解説: The Tasteful Agent: Measuring and Improving Taste in Long-Horizon Tasks 執筆予定
- 論文解説: OmniVChat: Synthesizing, Benchmarking, and Training for Native Audio-Visual Dialogue 執筆予定
- 論文解説: VideoGen-Agent: Reinforcing Video Generation Agents 執筆予定
- 論文解説: onPanda: Efficient Annotation of On-Policy Alignment Data for LLMs and Agents via Token-Level Correction 執筆予定
- 論文解説: Harness-Zero: Harness Distillation via Agent-as-Harness 執筆予定
- 論文解説: From Pattern Recognizers to Personalized Companions: A Survey of Large Language Models in Mental Health 執筆予定
- 論文解説: Raven: The Harness of Harnesses for Composable Agentic Intelligence 執筆予定
- 論文解説: In-Context Learning for Robots: Methods and Applications 執筆予定
- 論文解説: Omni-IO Skills: Harnessing Your Agent Omni-Native 執筆予定
- 論文解説: AREX-2: Advancing Self-Improving Agents through Long-Horizon Reflective Tasks 執筆予定
- 論文解説: Mid-Harness: Scaling Actions Between Model and Harness for Terminal Agents 執筆予定
- 論文解説: Beyond Memory: Harnessing Long-Horizon Agents with Explicit Belief States 執筆予定
- 論文解説: Agent Priors-guided Policy Learning 執筆予定
- 論文解説: World Observer: Joint Actor-Observer Generation for Persistent World Modeling 執筆予定
- 論文解説: Sharpening Tax in Post-Training 執筆予定
- 論文解説: GraphForge: Training Working Agents with Graph-Anchored Workspace Synthesis 執筆予定
- 論文解説: ActiveSaddler: Automated Curriculum Learning for Agent Harness Optimization 執筆予定
- 論文解説: AutoGUIWorld: Image Generators as Visual World Models for GUI Agent 執筆予定
- 論文解説: EgoTools: Towards Tool-Centric Reasoning in Real-World Egocentric Videos 執筆予定
- 論文解説: Predictive Credit: Measuring What Scientific Explanations Add to Experimental Forecasts 執筆予定
- 論文解説: Prefill-Free Cross-Family KV Cache Transfer for Heterogeneous Multi-Agent LLMs 執筆予定
- 論文解説: X-Tree: Tokenizing Reusable Experience for Efficient Agent Generalization 執筆予定
- 論文解説: InterEvolve: Test-Time Evolution of Reward Programs for Humanoid Loco-Manipulation 執筆予定
- 論文解説: Decentralized Master-Mind: Joint Action Refinement through Iterative Intent Denoising in Multi-Agent Pathfinding 執筆予定
- 論文解説: RealCompanion: Benchmarking Human Understanding from Reasoning over Longitudinal Real-World Conversations 執筆予定
- 論文解説: HyperBrowseComp: A Multilingual and Multimodal Stress Test for Web-Browsing Agents 執筆予定
- 論文解説: Language Models that Play Chess and Explain Their Moves 執筆予定
- 論文解説: CheckerBench: Can Long-Horizon Agents Synthesize Static-Analysis Checkers? 執筆予定
- 論文解説: nanoMuse: An Open-Source Personal Agent for Every Device You Own 執筆予定
- 論文解説: DecepEval: A Benchmark for Evaluating Deception in LLM Agents 執筆予定
- 論文解説: VepAgent: Bridging Causal-Transition via Tool-Augmented Reinforcement Learning for Video Event Prediction 執筆予定
- 論文解説: From Traces to Agentic Worlds: Agentic Language World Models for Interactive Environment Simulation 執筆予定
- 論文解説: Self-Retrospection Distillation: Turning Post-hoc Experiences into Prior Foresight 執筆予定
- 論文解説: Learn2Play Bench: How Well Do LLM Agents Learn from Experience in Unfamiliar Environments? 執筆予定
- 論文解説: SuperNav: An Agentic Navigation System for Any Task in Any Scene 執筆予定
- 論文解説: MiMo-V2.6: Scaling Reinforcement Learning Towards Self-Improvement 執筆予定
- 論文解説: Multi-Agent Egocentric World Model with Fine-Grained Embodied Interaction 執筆予定
- 論文解説: REMORY: Learning Residual Memory for Context Compaction 執筆予定
- 論文解説: Memento 3: Model-Based Recursive Self-Improvement through Reflective Rulebooks 執筆予定
- 論文解説: TestPrism: Rethinking Test Evaluation Beyond a Single Reference 執筆予定
- 論文解説: SoftwareGym: Scaling Computer-Use Agent Training with Diverse Synthesized Software Environments 執筆予定
- 論文解説: EmbodiedCLBench: Evaluating Continual Learning for Self-Evolving Embodied Agents 執筆予定
- 論文解説: ProgramGym: Scaling Training Environments for Long-Horizon Program Reproduction Agents 執筆予定
- 論文解説: Can AI Agents Learn Their Way to the Top? Evaluating Heuristic Learning in a Long-Running Game Agent Competition 執筆予定
- 論文解説: AgentSWE: Can Coding Agents Build the Agent You Actually Want? 執筆予定
- 論文解説: Scaling Agentic Data for Long-Horizon Terminal Intelligence 執筆予定
- 論文解説: Work2Skill: Capturing Human GUI Experience for Reusable Agent Skill Induction 執筆予定
- 論文解説: Urbex: Agentic Spatial Grounding for City-Scale 3D Scenes 執筆予定
- 論文解説: Agent-Reflex: Teaching Language Agents to Act Reflectively 執筆予定
- 論文解説: Harness^2: Recursive Agent Harnessing for an Open World 執筆予定
- 論文解説: Tev: Scaling Long-Horizon Agentic Environments with Dense Progress Rewards 執筆予定
- 論文解説: Player-1: Learning to Play from Synthetic Experience 執筆予定
- 論文解説: More Methods, Better Agents? A Reality Check on Self-Distillation in Agentic Reinforcement Learning 執筆予定
- 論文解説: Self-Evolving Agent Harness 執筆予定
- 論文解説: OpenGCUA: Toward a Fully Open Stack for Generalist Computer Use 執筆予定
- 論文解説: FDE-Gym: The Last Mile of AI Delivery 執筆予定
- 論文解説: MJev-Spatial: System One Spatial Intelligence via Native Attention Matching 執筆予定
- 論文解説: MAI-Gym: An Open All-in-One Platform for GUI Agent Evaluation and RL Training across Mobile and Computer Environments 執筆予定
- 論文解説: 3DCodeVerse: Exploring 3D Worlds as Code 執筆予定
- 論文解説: CommerceGen-Studio: An End-to-End Framework for Commercial-Grade Main-Image Generation 執筆予定
- 論文解説: DeltaStreamer: Towards Human-Like Agentic Streaming Video Understanding 執筆予定
- 論文解説: BizBench: Unveiling Hidden Challenges in Deploying Long-Horizon Agents for Real-World Business 執筆予定
- 論文解説: HexaShell: A Thin Harness for Exploring the Limits of VLM Agents as Robot Coding Agents 執筆予定
- 論文解説: Into the Unknown: Benchmarking AI agents on open scientific research problems 執筆予定
- 論文解説: LiveMACE: Process-Aware Evaluation of LLM Agent Capabilities in Evolving Markets 執筆予定
- 論文解説: From Research Goals to Scientific Closure: Evaluating Agents Through Evidence-Supported Physics Research 執筆予定
- 論文解説: OR-License: Evaluating LLM Agents as Real-World Operations Research Practitioners 執筆予定
- 論文解説: OpenVLHarness: Real World Visual Agentic Tool-Use with Multimodal Memory 執筆予定
- 論文解説: Matrix-Game 4.0: Harnessing Video Models for Real-Time Playable Game Worlds 執筆予定
- 論文解説: Focused Omni-Modal GUI Agents 執筆予定
- 論文解説: S-Agent 2.0: Spatial Reasoning with a General Coding Agent 執筆予定
- 論文解説: Sage-A1.5: From Long-Horizon Execution to Scientific Exploration with Capability Composition 執筆予定
- 論文解説: CoEvo-RSI: When Harnesses Evolve, Which Models Should Follow? 執筆予定
- 論文解説: Agent World Model in the Wild: Computer-Use Agent Environment Synthesis 執筆予定
- 論文解説: Socratic Skill Learning: Interleaving Teaching and Practice for Transferable Agent Skills 執筆予定
- 論文解説: AgenticRoboRL: Bringing Coding-Agent Post-Training to Agentic Robotics 執筆予定
- 論文解説: SWE-bench Science: Can Coding Agents Resolve Engineering Tasks in Science? 執筆予定
- 論文解説: StateM: Reaching 95.3% Raw Accuracy, or a \$15 Frontier Run, on Terminal-Bench 2.1 via Harness Scaling 執筆予定
- 論文解説: EnvHarness: Awakening Static Worlds for Agent Learning 執筆予定
音声系11音声認識・合成・音声LLM
- 第219 論文解説: Whisperはなぜ頑健なのか — 大規模弱教師あり学習
- 第220 音声認識を1から — 波形からテキストまで
- 第221 音声合成を1から — テキストから声まで
- 第222 音の表現 — メルスペクトログラムとトークン化
- 第223 論文解説: SwanTale — 参照音声なしで「言葉から声をデザインする」統合音声・オーディオ生成
- 第224 論文解説: Interpretable MEG Decoding of Perceived Speech — 脳磁図から「聞いた音声」を当てるAIの中身を、脳地図として読む
- 第225 論文解説: VoiceMem — 音声対話に「左脳と右脳」の記憶を、遅延ゼロで
- 第226 論文解説: Motion-Omni — 話しながら全身が動く、end-to-endの音声対話モデル
- 第227 論文解説: AuK — 音声の「作る」と「直す」を1つのモデルに統一する
- 第228 論文解説: X-AuT — 音声エンコーダの層を「2枚ずつ」抜いて、大きい教師で埋め戻す
- 第229 論文解説: Dynamic Band Splitting — 音源分離の「帯の仕切り」を、混ざった音ごとに学習で動かす
- 論文解説: Scaling Parameter-Efficient Fine-Tuning for Brain Encoding 執筆予定
- 論文解説: Last Translation Benchmark 執筆予定
時系列データ系11RNN/LSTMから時系列基盤モデルまで
- 第230 RNNとLSTMを1から理解する — Transformer時代になぜ学ぶのか
- 第231 時系列予測を1から解説 — 古典手法から基盤モデルまで
- 第232 時系列にTransformerは効くのか — 論争と実務の答え
- 第233 時系列異常検知 — 監視の現場で動いている数学
- 第234 H3-World 論文解説：言語理解を「世界の操作」に変える手法とは
- 第235 論文解説: WearableQA — 実ユーザー500日分のウェアラブル記録でLLMの「健康推論」を測る
- 第236 論文解説 MetroLLM-Bench — 駅の券売機を LLM に任せると何点取れるか。2.6GBの4Bモデルが GPT-5.6 に並んだ理由と、27Bで微調整が逆効果になった理由
- 第237 論文解説: Video Generation Models: A Survey of Post-Training and Alignment — 動画生成AIを「言うことを聞く」ようにする4つの道具箱
- 第238 論文解説: PointWAM — 世界を「場面」と「手」の3D点の軌跡に分けて予測し、人間の動画からロボットの器用な手を学ぶ
- 第239 論文解説: STEPQuant — Delta則の再帰状態は「いつ・どこの」量子化誤差が効くのか
- 第240 論文解説: Holi-World — 一人称の録画から「部屋の台帳」を自動で作り、空間と時間の推論を教える
- 論文解説: Learning the 4D World through Point Trajectory Forecasting 執筆予定
モデル系統図鑑7Gemma系・Llama系・Qwen系など系統別の特徴と使い分け
論文解説20重要論文を1本ずつ、本文を根拠に背景から実務含意まで
- 第248 LoRA 論文解説：Low-Rank Adaptation とは？低ランクで足りる理由を原論文からわかりやすく
- 第249 代理指標では、もう守れない — 自動運転 2026年8月新着8本を束ねて読む
- 第250 論文解説 Attention Is All You Need — 再帰を捨てたモデルは何を証明したのか
- 第251 Mixture of Experts (MoE) を1から解説 — Switch Transformerのルーティングと負荷分散
- 第252 論文解説: Alpamayo — 自動運転の推論モデル
- 第253 記号主義vs接続主義 — 60年論争の現在地
- 第254 論文解説: WorldClaw — テキスト1文から「歩ける・編集できる」3Dオープンワールドをエージェントが建設する
- 第255 論文解説: AskChem — 検索の単位を「論文」から「出典付きクレーム」に変える文献インフラ
- 第256 論文解説 Large Discovery Models — LLMに「次に何を試すべきか」を教える価値信号
- 第257 論文解説: Apodex 1.1 — 「完了した仕事」を単位にエージェントをスケールさせる
- 第258 論文解説: ゲーム開発を「検証できる軌跡データ工場」にする — RLHEV と AWoMo
- 第259 論文解説 J-Zero: 出題者・解答者・審判を同時に育てる「データゼロ」自己進化
- 第260 論文解説 RoboTok — ネット動画から「手の動きが似た手本」を掘り出すデータエンジン
- 第261 論文解説 CosmoH2G — 人の手の「ひっくり返す」動きを、二本指グリッパに写す
- 第262 論文解説: RayOrch — 親子関係を保ったままGPUで束ねる、基盤モデル用データ前処理エンジン
- 第263 論文解説: False Frontiers — 自己進化する検索エージェントの「共謀カンニング」を診断して断つ
- 第264 論文解説: Persona Dosing — LLMの性格の「強さ」を点数で指定する活性化ステアリング
- 第265 論文解説: EVISKILL — エージェントの手順書を「再生できる証拠」で書き換える
- 第266 論文解説: From Evidence to Action: How Tool-Using Agents Fail — 失敗の診断指標と介入実験を本文から読む
- 第267 論文解説: Refusal in Language Models Is Mediated by a Single Direction — 「断る」はモデル内部の1本の方向だった
- 論文解説: VIS-Ground: Video Interactive Storytelling with Contextual Grounding 執筆予定
- 論文解説: InfiniSplat v2: Analyzing and Improving Feed-Forward 3DGS from Any Views 執筆予定
- 論文解説: Behavioral Compositionality of Sparse Autoencoder Representations 執筆予定
- 論文解説: Speculative Forcing for Efficient Autoregressive Video Generation 執筆予定
- 論文解説: Each Reward to Its Relevant Tokens: Reward-Specific Token-Level Credit Assignment for Multi-Reward RL 執筆予定
- 論文解説: Pack Light, CarryOn: Building Object-Oriented Context for Long-Horizon Agents 執筆予定
- 論文解説: Learning from Fleet Experience: A Collective Learning Paradigm for Robots 執筆予定
- 論文解説: SpecMRL: Redesign Matryoshka Representation Learning within Parametric Spectrum 執筆予定
- 論文解説: DONIC: Generalist Dexterous Bimanual Tracking Control from Human Demonstrations 執筆予定
- 論文解説: NCP-ArchPreview Technical Report: Moving towards Latent Space Language Models through Next Concept Prediction 執筆予定
蒸留と圧縮9大きなモデルの能力を小さなモデルへ写す。損失関数・データ設計・失敗パターンまで
- 第268 蒸留の数学 — なぜ「柔らかい答え」から学べるのか
- 第269 蒸留レシピ図鑑 — logit・feature・attention・self をどう使い分けるか
- 第270 蒸留データの設計 — 教師に何を答えさせるか
- 第271 蒸留が失敗するとき — 容量ギャップと過信の伝染
- 第272 オンポリシー蒸留 — 生徒自身の出力で教わる
- 第273 蒸留・量子化・枝刈りの使い分け — 小さくする3つの道
- 第274 エージェントを蒸留する — 長い軌跡をどう圧縮するか
- 第275 蒸留モデルの評価 — 「教師に近い」は良い指標か
- 第276 【実装】蒸留を自作する — 100行で小さなモデルを育てる
評価と審判5AIをどう測るか。ベンチマーク・LLM審判・汚染・報酬ハッキングまで
半導体
砂から取り出したシリコンが、どうして計算をするようになるのか。物質の性質から演算器・メモリ・電力・製造まで。
デバイス物理5バンド・ドーピング・pn接合・MOSFET・CMOS
計算機アーキテクチャ5論理回路・クロック・メモリ階層・メモリの壁
スケーリングと電力5ムーアの法則の終焉・電力の物理・データ移動のコスト
製造とパッケージ4ウェハ・露光・歩留まり・チップレット・3D実装
アクセラレータ3数の表し方と量子化・GPU/NPU/TPUの設計様式・エッジ実装
サプライチェーン6素材・装置・EDA・IP。チップが生まれる前の「上流」で誰が何を握っているか
計算アルゴリズム
計算量という物差しから、探索・動的計画法・行列計算・並列化まで。AIの下で実際に動いている計算の作法。
計算量と評価5オーダー記法・時間と空間のトレードオフ・実測との乖離
データ構造5配列・木・ハッシュ・ヒープ。どれを選ぶと何が速くなるのか
- 第315 データ構造の選び方 — 配列・ハッシュ・木・ヒープ
- 第316 ハッシュと近傍探索 — ベクトル検索の下地
- 第317 キャッシュに優しいコード — 同じO(n)で10倍差がつく理由
- 第318 B木とLSM木 — データベースの心臓
- 第319 確率的データ構造 — 数えずに数える
探索と最適化4全探索・貪欲法・動的計画法・分枝限定・近似
数値計算7行列積・分解・FFT・反復法。AIの計算はほぼここに帰着する
並列・分散3並列化の限界・GPUの実行モデル・分散学習の通信
AIのための数学
AIの論文を読むために本当に必要な数学だけを、記号の意味から。線形代数・微積・確率統計・情報理論・最適化。
線形代数7ベクトル・行列・固有値・特異値分解。次元とは何か
微分と最適化の数学7偏微分・勾配・連鎖律・凸性・ラグランジュ
確率・統計11分布・期待値・ベイズ・最尤推定・サンプリング
- 第348 AIのための確率・統計 — モデルの出力は確率である
- 第349 ベイズの定理をAIで使う — 事前分布・事後分布・不確実性
- 第350 ベイズ的に考える — 事前・尤度・事後の実務感覚
- 第351 マルコフ連鎖を1から — 「今だけ見る」確率過程
- 第352 確率分布図鑑 — 正規・ポアソン・指数族はどこから来るか
- 第353 モンテカルロ法を1から — 積分をサイコロで解く
- 第354 統計的検定とABテスト — p値の使い方と誤用
- 第355 統計学習理論 — なぜ学習は汎化するのか
- 第356 最適輸送 — 分布を運ぶ数学
- 第357 カーネル法とガウス過程 — NN以前の王者
- 第358 ゼロから学ぶベイズの定理 — 99%正確な検査が、なぜコイン投げになるのか
情報理論5エントロピー・KL情報量・交差エントロピー。損失関数の出どころ
メディアと圧縮
JPEGはなぜ劣化するのか。PNGはなぜ劣化しないのか。画像・動画・音声の符号化を、情報理論と現場の設定値の両側から。
符号化の理論3可逆と非可逆・エントロピー符号化・ハフマン・算術符号
画像圧縮3JPEG・PNG・WebP・AVIF。DCTと量子化、可逆圧縮の仕組み
動画圧縮4MPEG・H.264・AV1。動き補償・GOP・レート制御
- 第370 動画圧縮を1から — 動き補償とGOP
- 第371 H.264からAV1へ — コーデック世代交代の実際
- 第372 動き補償を1から — 動画圧縮の9割はここ
- 第373 ニューラル圧縮 — 学習するコーデック
音声圧縮4MP3・AAC・Opus。聴覚マスキングという「捨て方」
現場のメディア実務3配信のビットレート設計・エンコード設定・画質評価。仕事で問われること
システム基盤
AIを動かす足場そのもの。OS・ネットワーク・データベース・言語処理系・セキュリティ・クラウドを、仕組みから理解する。