DeepSeek-R1-Distill-Qwen-14Bとは？ Qwen2.5-14Bとの関係と仕様

このモデルは何か

DeepSeek-R1-Distill-Qwen-14Bは、Qwen2.5-14BをベースにDeepSeekが公開した14Bの蒸留モデルだ。モデルカードでは、DeepSeek-R1が生成したサンプルを使ってQwen2.5-14Bを追加学習したモデルとして説明されている。

関係を整理すると、DeepSeek-R1が教師側、Qwen2.5-14Bが学習開始時のベース、この公開モデルが学習後の生徒側にあたる。名前にDeepSeek-R1が入っていても、R1本体を14Bへそのまま縮小したモデルではない。

DeepSeekは学習に80万件のサンプルを使ったと説明している。この数字は学習方法を知る材料ではあるが、サンプル数だけで回答品質やR1本体との性能差までは分からない。

設定上の最大コンテキスト長は131,072トークン。これもモデル側の仕様であり、どのローカル実行環境でも同じ長さを実用的に使えることや、その際の必要メモリを保証する数字ではない。

DeepSeekはR1系の蒸留モデルとして推論・問題解決能力を訴求し、モデルカードに評価結果を掲載している。これらはDeepSeekが示した条件での結果で、手元のPCや量子化モデルで同じ結果になることを保証するものではない。

ローカルで使う場合は、14Bというモデル規模だけからGPUを決めない方がよい。必要なメモリは、選ぶ配布形式や量子化、コンテキスト長、実行環境、GPUとCPUへの配置によって変わる。

特にGGUFなどの量子化版を使う場合、配布ファイルの容量と実行時のVRAMは同じ数字ではない。モデル本体のほかにKVキャッシュや実行環境の作業領域も必要になるためだ。

購入するGPUを決める前に確認したいのは、使う量子化、対応する実行環境、普段使うコンテキスト長、GPUへどこまで載せるかの4点になる。CPUオフロードを使う構成なら、VRAMだけでなくシステムRAMも必要になる。

DeepSeek-R1-Distill-Qwen-14Bは、R1系の学習データを使った比較的小さなモデルを試したい場合に候補へ入れやすい。Qwen2.5-14Bをベースにしていることが明確なので、モデルの由来も追いやすい。

ただし、このモデルを選ぶ理由を「DeepSeek-R1と同じ能力を14Bで使えるから」と考えるのは適切ではない。蒸留は学習上の関係を示すもので、教師モデルと同等の性能を示す証拠ではない。

同様に、14Bという表示だけでは必要GPUや速度を決められない。量子化後の品質、生成速度、ピークVRAMやRAMは、実際に使う配布物と実行環境で確認する必要がある。

R1系の推論モデルをローカルで試したいなら候補になるが、最終的な判断はモデル名より自分の課題で行うのがよい。使いたい量子化と実行環境を決め、普段扱う質問やコード、数学問題などで回答の質と待ち時間を確かめると、このモデルが自分に合うか判断しやすい。