体系 › AIのための数学

確率・統計

分布・期待値・ベイズ・最尤推定・サンプリング

01 ·確率・統計·無料·10分で読めます AIのための確率・統計 — モデルの出力は確率である 分類モデルもLLMも、返しているのは答えではなく確率分布です。分布・期待値・条件付き確率・ベイズの定理を記号から説明し、山場として「最尤推定がなぜ損失関数になるのか」を導きます。交差エントロピーもMSEも、発明されたのではなく出てきたものです。 02 ·確率・統計·無料·論文·11分で読めます ベイズの定理をAIで使う — 事前分布・事後分布・不確実性 On Calibration of Modern Neural Networks たった1行のベイズの定理が、AIの現場では「確率の校正」「能動学習」「ベイズ最適化」という3つの実務ツールに化ける。検査の陽性から始めて、事前分布・事後分布・不確実性を前提知識ゼロで解説する。 03 ·確率・統計·★ 会員·13分で読めます ベイズ的に考える — 事前・尤度・事後の実務感覚 ベイズ更新は「事後を次の事前として継ぎ足す」操作です。共役事前を使えば更新は疑似カウントの足し算に退化し、A/Bテストは『勝つ確率』と『期待損失』の2枚看板で読めるようになります。停止規則と事前の選び方の落とし穴まで、前提知識ゼロから。 04 ·確率・統計·★ 会員·12分で読めます マルコフ連鎖を1から — 「今だけ見る」確率過程 次に何が起きるかは、今どこにいるかだけで決まる — この割り切りがマルコフ連鎖です。遷移行列と定常分布から、PageRankがなぜ固有ベクトルなのか、MCMCがなぜ正規化定数を無視できるのかまでを、前提知識ゼロから積み上げます。 05 ·確率・統計·無料·16分で読めます 確率分布図鑑 — 正規・ポアソン・指数族はどこから来るか 正規分布もポアソン分布も、暗記すべき公式ではなく「ある状況から必然的に出てくる形」です。足し算・希少な出来事・最大エントロピーという3つの物語をたどると、教科書に並ぶ分布たちが指数族という1本の川に合流し、sigmoidとsoftmaxがなぜあの形をしているのかまで見えてきます。 06 ·確率・統計·★ 会員·12分で読めます モンテカルロ法を1から — 積分をサイコロで解く 解けない積分は、乱数を降らせて平均を取れば近似できます。大数の法則がなぜ 1/√N の遅さを生むのか、重点サンプリングで何が救えるのか、そして正規化定数が分からない分布をMCMCがどう扱うのかを、前提知識ゼロから積み上げます。 07 ·確率・統計·★ 会員·13分で読めます 統計的検定とABテスト — p値の使い方と誤用 同じ画面を2つ並べても数字は必ずずれます。そのズレを「偶然のブレ何個分か」に換算するのが検定であり、p値です。帰無仮説の作法から、検出力・逐次検定・多重比較という3つの事故まで、前提知識ゼロから積み上げます。 08 ·確率・統計·★ 会員·論文·16分で読めます 統計学習理論 — なぜ学習は汎化するのか Understanding Deep Learning Requires Rethinking Generalization 有限個の例しか見ていないのに、なぜ未知のデータに答えられるのか。Hoeffdingの不等式からVC次元・PAC学習まで汎化の保証を1から組み立て、それが深層学習の前で破れた経緯と、評価設計での使いどころまでを解説する。 09 ·確率・統計·★ 会員·論文·15分で読めます 最適輸送 — 分布を運ぶ数学 Sinkhorn Distances: Lightspeed Computation of Optimal Transport 2つの確率分布の距離を「砂を運ぶ最小コスト」として測るのが最適輸送。Wasserstein距離の定義から、実用の主役であるSinkhornアルゴリズム、WGAN・FID・Flow Matchingへの接続、そして現場で踏む落とし穴までを比喩とnumpyコードで積み上げる。 10 ·確率・統計·★ 会員·論文·15分で読めます カーネル法とガウス過程 — NN以前の王者 Practical Bayesian Optimization of Machine Learning Algorithms 深層学習が来る前、分類の王座に座っていたのはSVMとカーネル法だった。高次元へ持ち上げるコストをタダにする「カーネルトリック」から、関数そのものに確率を置くガウス過程、そして不確実性を武器にするベイズ最適化までを、前提知識ゼロで組み立てる。 11 ·確率・統計·無料·論文·21分で読めます ゼロから学ぶベイズの定理 — 99%正確な検査が、なぜコイン投げになるのか An Essay towards solving a Problem in the Doctrine of Chances ベイズの定理は条件付き確率をひっくり返す4つの記号であり、同時に人が確率をいちばん取り違える場所でもある。この記事は条件付き確率の定義から1行ずつ導出し、4つの部品に名前を与え、医療検査を最後の数字まで計算する——感度99%・特異度99%の検査を有病率1%の病気に使うと、陽性でも病気である確率は50%になる。最後に基準率の誤り、逐次更新、そして事前確率はどこから来るのかを扱う。