Local / Edge解説

Qwen3.8-27Bとは? 262Kコンテキストと27B Denseモデルの仕様

Qwen3.8-27Bとは? — 262Kコンテキストと27B Denseモデルの仕様
目次

このモデルは何か

Qwen3.8-27Bは、Qwenが公開する27BクラスのDenseモデルだ。MoEではない。Qwen3.6-35B-A3Bのように「モデル全体の規模」と「実際に使う有効パラメータ」を分けて見るタイプではなく、まず27BのDenseモデルとして考えればよい。

内部のモデル形式はQwen3_5ForConditionalGeneration。ライセンスはApache 2.0で、Qwen公式の重みはsafetensors形式で配布されている。

コンテキスト長は、通常設定で262,144トークンまで対応する。普段使ううえでは、まずこの262Kを基準に考えると分かりやすい。

さらにQwenは、YaRNを使った追加設定で最大1,000,000トークンまで広げる方法も案内している。ただし、100万トークンが標準設定の上限という意味ではない。必要なときに追加設定を使って広げるための選択肢だ。

長いコンテキストにはメモリ面の代償もある。入力や会話履歴を長く保持するほど、KVキャッシュなどに使うメモリが増えるためだ。262Kを超える入力が必要でなければ、最初から100万トークン設定を前提にする必要はない。

このモデルでできること・どんなPCで動かせるか

Qwen3.8-27Bはテキスト生成だけのモデルではない。Qwenは画像・動画入力への対応に加え、思考モードやMTP(複数トークン予測)などの機能も案内している。

ここで分けて考えたいのが、モデルに機能があることと、自分が使う実行環境でその機能を使えることだ。

たとえばllama.cppにはマルチモーダル処理や投機的デコードの仕組みがある。しかし、それだけでQwen3.8-27Bのすべての機能が、どのバージョンやどの配布形式でも使えるとは限らない。画像や動画を入力したい場合は補助ファイルが必要か、使いたい機能を実行環境がサポートしているかを個別に確認したい。

PC側では、まず公式配布の容量と実行時に必要なVRAMを分けて考える必要がある。

2026年8月21日にQwen公式のHugging Faceを確認した時点で、mainリビジョンの主要配布物は約55.6GBだった。18個に分割されたsafetensorsなどを含む、ダウンロードする側の容量だ。

この55.6GBを、そのまま「必要VRAMは55.6GB」と読み替えることはできない。推論時にはモデル本体のほかに、KVキャッシュや実行環境の作業領域にもメモリを使う。一方、量子化版を使えばモデル本体の容量は小さくできる。

さらに、モデルをすべてGPUへ載せる必要があるとは限らない。一部をCPUとシステムRAM側へ置くオフロードを使えば、必要VRAMを抑えて起動できる場合もある。その代わり、GPUへ全量を置く場合とは速度やメモリの使い方が変わる。

つまり、55.6GBという公式配布容量だけではPC要件は決まらない。どの配布形式を使うか、どのくらいのコンテキストを使うか、どこまでGPUへ載せるかを決めたうえで必要メモリを見る必要がある。

Hugging Faceのメモリ推定機能も参考にはなる。ただし、読み込み時の推定値と、実際の推論中に到達するピークメモリは同じものではない。特に長いコンテキストを使う場合は、推定値だけで実行時VRAMを確定しない方がよい。

GGUFなどの派生配布を選ぶ場合も同じだ。量子化の種類だけでなく、元になったモデル、配布元、使いたい実行環境への対応まで確認してから選びたい。

local-genの評価

Qwen3.8-27Bは、27B級のDenseモデルをローカルで使いたい人にとって分かりやすい候補だ。通常設定でも262Kのコンテキストがあり、必要ならYaRNで100万トークンまで広げられる。Qwenが画像・動画入力なども案内しているため、テキスト生成だけに用途を限定しない余地もある。

ただし、候補に入れるかどうかを「27Bだから」「公式配布が55.6GBだから」だけで決めるのは難しい。

特にPC要件は、使う形式でかなり変わる。公式のsafetensorsをそのまま扱うのか、量子化版を使うのか。モデルをGPUへどこまで載せるのか。コンテキストをどこまで伸ばすのか。これらを決めて初めて、自分のPCで現実的かを判断しやすくなる。

試すなら、最初に使う配布形式と実行環境を決め、普段必要なコンテキスト長で起動するのがよい。その状態で足りなければ、量子化やGPUへの配置を調整する。画像・動画入力、MTP、YaRNによる長文拡張も、必要になった機能から一つずつ追加した方が、どの条件がPC負荷を増やしているのか分かりやすい。

現時点では、速度やピークVRAM、100万トークン時の実用性をモデル規模や配布容量だけから断定することはできない。Qwen3.8-27Bを候補に残すなら、最後は自分が実際に使う形式・コンテキスト・実行環境に合わせて判断するのが適切だ。

まとめ

  • Qwen公式の27B Denseモデルで、MoEではない
  • 通常コンテキストは262,144トークン、100万トークンはYaRNを使う条件付き拡張
  • 公式Hugging Faceのmainリビジョンは約55.6GBだが、これは配布容量で必要VRAMではない
  • 量子化、コンテキスト、実行環境、GPUとCPUへの配置を決めてから必要メモリを確認する

公式サイトで次に進む

この記事で明示的に扱うソフトだけを表示します。配布・手順は各公式ページで確認してください。

local-gen.jpがファイルを配布するものではなく、互換性を保証するものでもありません。

同じテーマから

この記事で扱ったデータ

モデル・GPU・実行ソフトの確認済みデータを、記事とは別に確かめられます。

サイト内検索