ローカルAI向けGPUは16GB・24GB・32GBのどれを選ぶ？

ローカルAI用GPUのVRAMは、多いほど無条件に良いわけではない。16GBで必要な処理を満たせるなら24GBや32GBへ上げる理由は薄く、16GBではCPUオフロードが増える用途なら上位容量の価値が出てくる。

判断の軸は、使いたいモデルや処理をどの条件で、どこまでGPUへ置きたいか。VRAM容量を速度の順位ではなく、GPU側に持てる余裕として考えると選びやすい。

GPU	VRAM	メモリ	メモリ帯域幅	NVIDIAの基準電力	発売日	発売時価格
GeForce RTX 4060 Ti 16GB	16GB	GDDR6	288 GB/s	未確認	未確認	$499
GeForce RTX 4090	24GB	GDDR6X	1008 GB/s	450W	2022-10-12	$1,599
GeForce RTX 5090	32GB	GDDR7	1792 GB/s	575W	2025-01-30	$1,999

表の発売時価格は現在の販売価格ではない。RTX 4060 Ti 16GBについては、確認済みの一次情報から16GB版固有の基準電力と日単位の発売日を確定できないため、未確認のままとしている。

図を拡大して見る

図: 容量・設定値・段階差の判断軸を1枚に整理。数値の条件は本文を優先する。

16GB・24GB・32GBの差は「どこまでGPUへ置けるか」

LLMでは、モデルの量子化やコンテキスト長によって必要なメモリが変わる。モデルの一部をGPUへ載せ、残りをCPUとRAMで扱うこともできるため、「動く」という言葉だけでは条件が分からない。

画像・動画生成でも同じだ。DiffusersにはCPUオフロードやグループオフロードなど、VRAM使用量を減らす方法がある。少ないVRAMでも実行できる例はあるが、すべてをGPUへ置く構成と同じ条件ではない。

そのため、容量帯は次のように考えると分かりやすい。

16GB

使いたいLLMや画像生成が16GB内に収まる、またはCPUオフロードを許容できるなら有力な出発点になる。用途が16GBで足りているのに、「将来使うかもしれない」という理由だけで上位容量へ上げる必要はない。

24GB

16GBでは収まりにくいモデルや画像生成を使う場合、またはCPUオフロードを減らしたい用途で意味が出る。24GBという容量を実際に使う条件があるなら、16GBとの差は明確になる。

32GB

24GBを超えることが分かっている処理や、LLM・大型画像生成・動画生成を同じGPUで扱い、CPU側へ逃がす量を減らしたい場合に検討しやすい。反対に24GB以内で用途を満たせるなら、32GBへ追加料金を払うかは価格や他の仕様も含めて判断する必要がある。

LLMはファイルサイズだけで必要VRAMを決められない

GGUFなどのファイルサイズは、配布・保存されるデータの大きさだ。推論時にはモデル本体以外にKVキャッシュなどでもメモリを使うため、ファイルが16GB未満だから16GB VRAMへ必ず収まる、とは言えない。

Hugging Faceのaccelerate estimate-memoryのような推定値も、モデルを読み込むために必要なメモリを見積もるもの。推論中のピークVRAMそのものではない。

VRAMの情報を見るときは、少なくとも次を区別したい。

• 配布ファイルやリポジトリの容量
• モデルを読み込むための推定メモリ
• 開発元が示すハードウェア条件
• GPUとCPUへの配置が分かる実行ログ
• 条件を固定して測った実行時のピークVRAM

数字の意味が違えば、同じ「GB」でもそのまま比較はできない。

画像生成はモデルごとに条件が違う

「Stable Diffusionなら16GBで十分」のように一つの数字へまとめることはできない。Hugging FaceはStable Diffusion 3について、メモリ最適化なしでは24GB未満のGPUで扱うのが難しい場合があると説明する一方、CPUオフロードでVRAM使用量を下げる方法も案内している。

FLUXやQwen-Imageのような大きな画像生成モデルもある。Qwen-Imageは20Bモデルとして公開されているが、モデル規模や配布ファイル容量をそのまま必要VRAMへ変換することはできない。

16GBで最適化を使って実行できる処理でも、24GBや32GBならGPU側へ置ける範囲を増やせる場合がある。ここで容量差の意味が出てくる。

動画生成では強いオフロードを使う例もある

動画生成では、さらに大きなメモリを使うパイプラインがある。Hugging FaceのWan向けDiffusersドキュメントには、Wan 2.1 T2V 14Bを量子化とグループオフロードで動かし、約13GB VRAMに抑えた例がある。

この数字はWan 14Bの普遍的な必要VRAMではない。量子化とオフロードを使った特定条件の実行例だ。

動画生成まで同じGPUで行うなら、LLMだけを基準にVRAMを決めるより、使いたいパイプラインとオフロード条件まで含めて容量を選ぶ方がよい。

24GBと32GBはVRAM以外も違う

RTX 4090とRTX 5090は、VRAMが24GBと32GBで違うだけではない。メモリの種類、帯域幅、世代、NVIDIAが示す基準電力も異なる。

• RTX 4090：24GB GDDR6X、1008 GB/s、450W
• RTX 5090：32GB GDDR7、1792 GB/s、575W

ただし、メモリ帯域幅が1008 GB/sから1792 GB/sへ増えたことから、LLMや画像生成が同じ比率で速くなるとは言えない。処理速度の比較には、モデル、実行環境、設定などをそろえた測定が必要になる。

450Wと575Wも、実際のAI処理中に常に消費する電力を示す値ではない。購入時は実際のGPU製品とPC全体の電源・冷却条件を確認する必要がある。

発売時価格は現在価格ではない

NVIDIAが示した発売時価格は、RTX 4060 Ti 16GBが499ドル、RTX 4090が1,599ドル、RTX 5090が1,999ドル。これらは2026年時点の新品・中古価格ではない。

現在のコストパフォーマンスを比べるなら、購入する時点の価格を別に確認する必要がある。発売時価格だけで「どれがお得か」という順位は作れない。

どの容量から選ぶか

16GBで必要なモデルや処理を満たせるなら、まず16GB帯から比較すればよい。16GBではCPUオフロードが増える、あるいは扱えない条件が具体的にあるなら24GBへ広げる。24GBでも不足することが分かっているなら32GBが候補になる。

モデル名やパラメータ数だけで容量を決めないことも重要だ。Gemma 3 4B ITやPhi-4-mini-instructの仕様だけでは実行時VRAMは決まらない。Qwen2.5-7B-Instructでも、コンテキスト条件と実行時メモリは別に考える必要がある。

16GB・24GB・32GBはローカルAI性能の順位ではない。使うモデル、量子化や精度、コンテキスト長や解像度、実行環境、オフロード条件を決め、その用途に必要な容量帯だけを価格比較へ進めるのが基本になる。