Qwen系を1から解説 — HuggingFace DL数トップ勢の実力

Hugging Faceのダウンロード数上位の常連、Alibaba CloudのQwen。Qwen2.5の「全サイズ×用途別」カタログ戦略からQwen3の思考モードとMoEまで、系譜・多言語とコードに強い理由・実務の落とし穴を前提知識ゼロから解説する。

全サイズを揃えた店

服を買いに行って、気に入ったデザインに自分のサイズだけ無い——あのがっかりは、LLM選びでも頻繁に起きます。手元のGPUは16GB、載るのは7B級まで。なのに使いたいファミリーには小型と超大型しか無い——という状況です。

Alibaba Cloudが開発する Qwen（チェンウェン／通義千問） 系列が世界中の開発者に選ばれてきた理由の一つが、まさにこの「品揃え」です。0.5Bから200B超まで、ほぼどんなメモリ事情にも合うサイズが同世代・同設計で並び、その大半が改変・再配布・商用利用の自由なApache 2.0ライセンスで配られる。結果、QwenはHugging Faceのダウンロード数上位の常連となり、Qwenを土台に追加学習された派生モデルの数は全ファミリー中でも最大級になりました。

なお、7Bなどの「B」はbillion（10億）の略で、モデルが内部に持つパラメータ（学習で調整された数値）の個数です。多いほど賢くなりやすい代わりに、動かすのに必要なメモリと計算も増えます。

この記事ではQwen2.5とQwen3を中心に系譜をたどり、多言語とコードという二枚看板の理由、そしてMoEと思考モードの仕掛けまでを、前提知識ゼロから解説します。

土台: どのQwenも「次の一語」を当てる機械

Qwenの動作原理は、ChatGPTやLlamaと同じです。文章の続きとして「次のトークン（単語の断片）」の候補それぞれに確率を割り振り、そこから1つ選んで文末に付け足す——これを繰り返して文章を生成する、デコーダ専用Transformerです（中核のAttention機構は別記事で1から解説しています）。

この確率分布からどう1つ選ぶかを決めるつまみが温度。低くすれば1位のトークンばかり選ぶ堅い出力に、高くすれば多様でランダムになります。

Qwen1→Qwen2: 助走の2年間

Qwenの最初の公開は2023年8月のQwen-7Bで、同年中に1.8B・14B・72Bが続きました。設計はLlamaで標準になった構成（RMSNorm・SwiGLU・RoPE）をベースにした堅実なもので、当時は「Llamaフォロワーの一つ」と見られていました。

流れが変わり始めたのは Qwen1.5（2024年2月）です。0.5Bから72B（のちに110Bも）までを細かい刻みで同時にリリースし、全サイズでコンテキスト長32Kを揃えました。冒頭で述べた「全サイズを同世代・同品質で並べる」というQwen流の配布スタイルが確立した世代です。続く Qwen2（2024年6月）では全サイズにGQA（KeyとValueを共有してメモリを節約する注意方式）が入り、MoE構成（57B-A14B）の試験投入も始まりました。

Qwen2.5（2024年9月）: 「道具箱」になった世代

Qwen2.5は学習データを最大18兆トークンへ引き上げ、0.5・1.5・3・7・14・32・72Bの7サイズを展開しました。指示応答版は最大128Kのコンテキスト長に対応します（位置埋め込みを引き伸ばすYaRNという手法で拡張）。ただし128Kは「読ませ放題」ではありません。注意計算は文長の2乗で増えるからです。