GLOSSARY

encoder

エンコーダ。入力を内部表現に変換する部分

1本の論文題名に登場

定義

入力を内部表現へ変換する部分を指し、Transformerでは系列全体を双方向に参照して各位置の表現を作る側を担う。理解・分類・検索ではエンコーダ単体で足りるため、BERT系はこの構成を取る。出力を逐次生成するデコーダと対になり、翻訳のように両方要る課題ではencoder-decoderが使われる。

論文題名での読み方

デコーダと対になる