Local / Edge解説

Qwen3.6-35B-A3Bとは? 35B/3BのMoE構成とGGUF容量

Qwen3.6-35B-A3Bとは? — 35B/3BのMoE構成とGGUF容量
目次

このモデルは何か

Qwen3.6-35B-A3Bは、Qwenが公開するMoEモデルだ。公式表記は総35B・有効3Bパラメータで、モデル全体は35B規模だが、1トークンの処理ではその一部が選択される。

モデルカードでは256個のエキスパートを持ち、8個のルーティング対象と1個の共有エキスパートを使う構成が示されている。アーキテクチャはQwen3_5MoeForConditionalGeneration、ライセンスはApache 2.0。

有効3Bという数字は計算時に使われる部分を示し、3B級の通常モデルと同じファイルサイズや必要メモリになるという意味ではない。保存するモデル全体の重みは別に存在する。

通常の最大コンテキスト長は262,144トークン。QwenはYaRNを使う条件付きで約1,010,000トークンまで拡張する方法も案内している。262Kと約101万トークンは同じ条件の上限ではない。

このモデルでできること・どんなPCで動かせるか

Qwenはテキストに加え、画像・動画入力やMTPに関する機能も案内している。こうした機能をローカルで使う場合は、モデル本体だけでなく必要な補助ファイルと実行環境側の対応が必要になる。

ローカル向けにはggml-orgによるGGUF変換も公開されている。2026年8月21日の確認では、主な配布容量は次のとおりだった。

GGUF 配布容量
Q4_K_M 20.4GB
Q8_0 36.9GB
BF16 69.4GB

mmprojやMTP用の補助ファイルも別に公開されている。ただし、この容量はダウンロード・保存するファイルの大きさであり、実行時に必要なVRAMそのものではない。

たとえばQ4_K_Mが20.4GBでも、20.4GBのVRAMへ必ず全量が収まるとは言えない。モデル本体のほかKVキャッシュや作業領域を使い、コンテキスト長によってもメモリ使用量が変わる。一部をCPUとRAMへオフロードする構成なら、GPU側の使用量も変わる。

画像・動画入力ではmmprojなどの補助ファイルが存在することと、使うランタイムがその組み合わせに対応していることを分けて確認したい。MTPもファイルがあるだけで自動的に高速化されるわけではなく、ランタイム側の対応と設定が必要になる。

約101万トークンの条件付きコンテキストを使う場合も、YaRNの設定だけでなくKVキャッシュを含むメモリ条件を確認する必要がある。最大値の大きさだけでPCを選ぶのは適切ではない。

local-genの評価

Qwen3.6-35B-A3Bは、MoEで計算時の有効パラメータを抑えつつ、35B規模のモデル、長いコンテキスト、マルチモーダル入力、MTPを一つの候補として試したい人に向く。

GGUFの具体的な配布容量が確認できる点も、ダウンロードやストレージ計画では扱いやすい。ただし、Q4_K_M 20.4GBという数字をそのまま必要VRAMへ読み替えると、PC選びを誤る可能性がある。

また、有効3Bだから軽い、MoEだから同規模のdenseモデルより必ず速い、といった順位付けもできない。実際の速度やピークメモリは量子化、コンテキスト、GPU配置、ランタイムによって変わる。

試すなら、まず使うGGUFまたはsafetensorsと実行環境を決め、通常のコンテキスト範囲で起動するのがよい。画像・動画入力やMTP、YaRNによる約101万トークンへの拡張は、必要になった機能から一つずつ追加する方が状況を把握しやすい。

まとめ

  • 総35B・有効3BパラメータのMoEで、有効3Bは3B級の保存容量や必要VRAMを意味しない
  • 通常コンテキストは262,144トークン、YaRNを使う条件付き拡張は約1,010,000トークン
  • ggml-orgのGGUFではQ4_K_M 20.4GB、Q8_0 36.9GB、BF16 69.4GBが確認できる
  • GGUF容量、mmproj、MTPファイルの存在から実行時VRAMや対応ランタイムを自動的に決めることはできない

公式サイトで次に進む

この記事で明示的に扱うソフトだけを表示します。配布・手順は各公式ページで確認してください。

local-gen.jpがファイルを配布するものではなく、互換性を保証するものでもありません。

同じテーマから

この記事で扱ったデータ

モデル・GPU・実行ソフトの確認済みデータを、記事とは別に確かめられます。

サイト内検索