CORRECTIONS

訂正の記録

公開した記事で見つけて直した誤りを、新しい順に載せています(7 件)。直した記事は日本語版と英語版の両方です。方針は 運営者と編集方針 に書いています。

  1. · LoRAとRAGを支える線形代数 — 固有値・低ランク・ベクトル検索を、動かして掴む

    誤り: ベクトルの正規化の手段として「pgvector なら vector_cosine_ops」と書いていた。

    直した後: 正規化は l2_normalize で行うと直した(vector_cosine_ops はコサイン距離のインデックス用の演算子クラス)。

    根拠: pgvector: Open-source vector similarity search for Postgres (README) github.com

  2. · データ構造の選び方 — 配列・ハッシュ・木・ヒープ

    誤り: 「SentencePiece や WordPiece のように最長一致で切る方式」と書いていた。

    直した後: 最長一致で切るのは WordPiece だけと直した(SentencePiece はユニグラム言語モデルによる分割で、別の方式)。

    根拠: Fast WordPiece Tokenization (Song et al., 2020) arXiv:2012.15524

  3. · データ構造の選び方 — 配列・ハッシュ・木・ヒープ

    誤り: ヒープの条件を「親は子より小さい」と書いていた。

    直した後: 「親は子以下」に直した。

    根拠: heapq — Heap queue algorithm (Python documentation) docs.python.org

  4. · データベース内部構造 — SQLの1行の裏側

    誤り: random_page_cost の既定値 4.0 を「回転ディスクのヘッド移動が高い前提で、SSD では下げるのが定番」と書いていた。

    直した後: 公式文書のとおり「4.0 はランダム読みの大半がキャッシュに載る前提で、本来の差より低めに置いた値。データがメモリに収まるなら下げ、キャッシュが効きにくい場合や磁気ディスクなら上げる」に直した(本文と「触るパラメータ」の2か所)。

    根拠: PostgreSQL Documentation: Query Planning — random_page_cost postgresql.org

  5. · Attention機構を1から理解する — Transformerの心臓部を絵解きで

    誤り: 原論文が「この仕組みだけで言語モデルが作れることを示した」と書いていた。

    直した後: 原論文が示したのは「この仕組みだけで系列変換のモデルが作れること(実験は機械翻訳)」だと直した。

    根拠: Attention Is All You Need (Vaswani et al., 2017) arXiv:1706.03762

  6. · 行列積のコスト — AIの計算はほぼここに帰着する

    誤り: 6N 近似が使える条件を「系列長が d_model に対して十分小さい範囲」と、狭く書いていた。

    直した後: 「d_model > s/12、つまり系列長 s が d_model の約12倍を下回る範囲」に直した(2か所)。

    根拠: Scaling Laws for Neural Language Models (Kaplan et al., 2020) arXiv:2001.08361

  7. · KVキャッシュを1から理解する — 推論高速化の核心

    誤り: 「decode は計算律速ではなくメモリ帯域律速」と、条件をつけずに言い切っていた。

    直した後: 「バッチが小さいうちはメモリ帯域律速(バッチを大きくすると計算の時間が支配的になる)」に直した(本文とまとめの計4か所)。

    根拠: Efficiently Scaling Transformer Inference (Pope et al., 2022) arXiv:2211.05102