deep

定義

層を何段も重ねた、という意味で、深層学習(deep learning)の「深」。層を重ねることで単純な特徴から複雑な特徴へ段階的に抽象化できることが利点とされる。今日では層数の主張というより、特徴を人が設計せず学習で獲得する方式全体を指す看板語として使われている。

論文題名での読み方

deep learning=深層学習

この語が出てくる解説

• 統計学習理論 — なぜ学習は汎化するのかUnderstanding Deep Learning Requires Rethinking Generalization
• GPUメモリ不足サバイバル — OOMの原因と対処の全パターンTraining Deep Nets with Sublinear Memory Cost
• エンコーダとデコーダ — BERTとGPTの分岐点BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding