クリエイティブ分析

DGX SparkとRTX 5090はどちらを選ぶ?ローカルLLM向けに128GB統合メモリと32GB VRAMを比較

DGX SparkとRTX 5090はどちらを選ぶ? — ローカルLLM向けに128GB統合メモリと32GB VRAMを比較
目次

ローカルLLM用の高性能マシンを選ぶとき、2026年時点で性格が大きく異なる2つの選択肢がある。

ひとつはGeForce RTX 5090を搭載した一般的なx86 PC。もうひとつは、NVIDIA Grace Blackwell GB10を搭載し、128GBの統合メモリを持つDGX Sparkだ。

スペック表だけを見ると、DGX Sparkは128GB、RTX 5090は32GBなので「Sparkが4倍上」と見えやすい。しかし、この比較はそれほど単純ではない。

RTX 5090の32GBはGPU専用の高速なGDDR7で、DGX Sparkの128GBはCPUとGPUで共有するLPDDR5xの統合システムメモリだ。容量・帯域・CPUアーキテクチャ・実行環境互換性が異なるため、何を動かしたいかで正解が逆転する

32GBに収まるならRTX 5090、32GBを超える大型LLMが目的ならDGX Sparkが有力

購入判断を先にまとめると、次の考え方が分かりやすい。

主な用途 向いている候補 理由
7B〜30B級の量子化LLM RTX 5090 32GBに収まりやすく、高速GPUメモリを使える
画像生成・ComfyUI・動画生成も重視 RTX 5090 一般的なGeForce/CUDA環境との互換性が高い
32GBを超える大型GGUFを1台で扱いたい DGX Spark 128GB統合メモリの容量が効く
70B級以上をできるだけGPU側で扱いたい DGX Spark CPU RAMオフロード前提の一般PCより構成を単純化しやすい
Windowsの普段使い・ゲームも兼用 RTX 5090搭載PC DGX SparkはDGX OSを使う専用AI機に近い
小型・省スペースの常時AIノード DGX Spark 150×150×50.5mm、GB10 TDP 140Wという専用設計

重要なのは、RTX 5090が遅いから32GBなのではなく、DGX Sparkが速いから128GBなのでもないという点だ。

前者は「高速なGPUメモリ容量」、後者は「CPU/GPUが共有できる大容量メモリ」が主な武器になる。

DGX Sparkの128GBは「VRAM 128GB」と同じ意味ではない

NVIDIA公式仕様では、DGX Sparkは128GB LPDDR5xの統合システムメモリを搭載し、メモリ帯域は273GB/sとされている。

一方、RTX 5090は32GB GDDR7、512bitメモリインターフェースを持つ。

ここでよくある誤解が、DGX Sparkを単純に「VRAM 128GBのGPU」と考えることだ。

DGX SparkのメモリはCPUとGPUで共有する統合メモリである。一般的なデスクトップPCのように「64GBシステムRAM + 32GB VRAM」と物理的に分かれた構造とは違う。

この方式の最大の利点は、32GBを超える重みやKVキャッシュを扱うときに、PCIe越しのCPU RAMオフロードとは違う構成を取れることにある。

ただし、大容量だからすべての処理が高速になるわけではない。メモリ容量とメモリ帯域は別の指標だ。

RTX 5090の強みは「32GBに収まる仕事を速く回す」こと

RTX 5090は32GB GDDR7を搭載するBlackwell世代のGeForce最上位GPUだ。

ローカルAIでは、この32GBにモデル重み、KVキャッシュ、実行環境の追加負荷などが収まる範囲で非常に使いやすい。

特に次の用途ではRTX 5090搭載PCの方が自然だ。

  • 量子化した7B〜30B級LLM
  • 32GBに収まるMoEモデル
  • Stable Diffusion / FLUX / Qwen Imageなどの画像生成
  • ComfyUIによる画像・動画ワークフロー
  • CUDAを前提にした多数の既存AIツール
  • Windows上のLM Studioや各種GUI
  • AI以外にゲーム・3DCG・動画編集も行うPC

32GBで足りるモデルを使うのに、128GB統合メモリだけを理由にDGX Sparkへ移る必要はない。

16GB・24GB・32GBのVRAM差も合わせて確認すると、まず自分の用途が32GBの範囲に入るか判断しやすい。

DGX Sparkの強みは「容量の壁を越える」こと

DGX Sparkで注目すべきなのは、NVIDIAが公式に最大200BパラメータのAIモデルで推論を試せると案内している点だ。

ただし、この表現は慎重に読む必要がある。

200Bパラメータ = どの200Bモデルでも高速・快適に動くという意味ではない。

モデルの実際の必要メモリは精度や量子化で変わる。さらに長いコンテキストを使えばKVキャッシュが増え、実行環境用の領域も必要になる。

MoEでは有効パラメータだけを見て必要メモリを判断することもできない。重み全体を保持する必要があるためだ。詳しくはMoEの総パラメータと有効パラメータの違いで整理している。

DGX Sparkの価値は「200Bだから速い」という数字ではなく、一般的な32GB GPUでは最初から容量で弾かれるモデルを、128GB統合メモリの単一ノードで検証できる余地が大きいことにある。

70B級LLMでは差が分かりやすい

70B級モデルを4bit量子化すると、重みだけでも数十GBになる。

RTX 5090単体の32GBへ完全常駐できない場合、一般PCではシステムRAMへ一部を置き、CPU+GPUハイブリッドで動かす構成が候補になる。

これは「動く」可能性を大きく広げる一方で、PCIe転送やCPU側処理が絡み、完全GPU常駐時とは性能特性が変わる。

DGX Sparkでは128GBの統合メモリをCPU/GPUで共有するため、こうした32GBの物理的境界を越えたモデルを扱いやすい

そのため、70B〜100B級を日常的に試したいユーザーほどSparkの意味が大きくなる。

逆に13Bや30B前後を中心に使うなら、Sparkの128GBを持て余す可能性がある。

長いコンテキストもメモリを使う

モデル重みが収まるかだけで判断してはいけない。

コンテキスト長さを伸ばすとKVキャッシュが増えるため、32GB GPUでは重みが収まっていても長文処理で余裕がなくなる場合がある。

DGX Sparkの大容量統合メモリは、この余白を大きく取りやすい。

ただし「1Mコンテキスト対応モデルを128GBなら1Mで常用できる」といった固定判断も避けるべきだ。KVキャッシュ量はアーキテクチャ、精度、実行環境実装などで変わる。

購入前はVRAM使用量とピークメモリの測り方と同じ考え方で、重み容量、コンテキスト、並列数を分けて考えたい。

ソフトウェア互換性ではRTX 5090搭載x86 PCが無難

DGX Sparkは20-中核Arm CPUとBlackwell GPUを組み合わせたGB10を採用し、DGX OSを使う。

ここはRTX 5090搭載の一般的なWindows/x86-64 PCとの大きな違いだ。

CUDA対応だからといって、既存のWindows向けAIツールやx86-64バイナリがそのまま同じ条件で動くとは限らない。

ローカルLLMではllama.cpp系、コンテナ化されたNVIDIA構成一式、対応済み実行環境を選べるが、導入前にAArch64対応を確認した方がよい。

LM Studio、Ollama、llama.cppなどの役割の違いはローカルLLM実行環境の比較で整理している。

普段使いのWindows PCとしても使いたいなら、RTX 5090搭載PCの方が圧倒的に無難だ。

Stable DiffusionやComfyUI目的ならRTX 5090を優先したい

DGX SparkはAI全般を扱えるが、ローカルAI利用者の中にはLLMだけでなくStable DiffusionやComfyUIも同じPCで使う人が多い。

その場合はRTX 5090搭載PCが第一候補になりやすい。

画像生成では「重みが巨大で32GBを超えること」よりも、一般的なCUDA/PyTorch環境との互換性、カスタムノード、Windows GUI、動画生成ワークフローなどの実用性が重要になる場面が多いからだ。

DGX Sparkを画像生成専用機として買うより、大容量LLMのためにSparkを選び、必要なら画像生成も動かすという順番の方が製品特性に合っている。

消費電力はカード単体とシステム全体を混同しない

DGX Sparkの公式仕様ではGB10 TDPは140W、電源は240Wとされている。

これは高性能AIノードとしては小さい。

ただしRTX 5090と比較するとき、SparkのGB10 TDPと「RTX 5090搭載PC全体の消費電力」を直接比べないようにしたい。CPU、メモリ、ストレージ、電源効率などシステム構成が異なる。

常時稼働のローカルエージェントやサーバー用途では、Sparkの小型・低消費電力寄りの設計は明確なメリットになる。

どちらを買うべきか

RTX 5090搭載PCを選びやすい人

  • 主なモデルが32GB以内に収まる
  • 画像・動画生成も同じマシンで行う
  • Windowsを使いたい
  • ゲームやクリエイティブ用途も兼用したい
  • 既存のCUDAソフトウェアとの互換性を優先したい
  • 1モデルあたりの低遅延性能を重視する

DGX Sparkを選ぶ意味が大きい人

  • 32GBを超える大型LLMを頻繁に扱う
  • 70B以上を単一ノードで試す機会が多い
  • 長コンテキストや複数セッションのために大きなメモリ余裕が欲しい
  • Linux/Arm環境を許容できる
  • 常時起動する小型AIサーバーが欲しい
  • ゲームPCではなくAI専用機として運用する

購入前は「モデル名」ではなく実際のファイル容量を見る

最終判断で最も重要なのは「70BだからSpark」「30Bだから5090」とモデル名だけで決めないことだ。

同じパラメータ数でもFP16、FP8、Q8、Q6、Q4などで重み容量は大きく変わる。

さらに実行環境の追加負荷やKVキャッシュを加える必要がある。

購入前は次の順番で確認すると失敗しにくい。

  1. 使いたいモデルを3〜5個決める
  2. 実際に使う量子化のファイル容量を確認する
  3. 必要なコンテキスト長さを決める
  4. 32GB以内に余裕を持って収まるか見る
  5. 収まるならRTX 5090を優先する
  6. 32GBを継続的に大きく超えるならDGX Sparkを検討する

「最大何Bまで動くか」ではなく、自分が毎日使うモデルをどの構成なら無理なく常駐できるかで選ぶのがよい。

まとめ

  • DGX Sparkは128GBの統合システムメモリを持ち、RTX 5090は32GB GDDR7を持つ。容量の差は大きいが、同じ種類のメモリではない
  • 32GB以内に収まるモデルの低遅延推論やComfyUI・Stable Diffusion系まで1台で使うならRTX 5090搭載PCが扱いやすい
  • 32GBを大きく超えるLLMを単一ノードで常駐させたい場合、DGX Sparkの128GB統合メモリは明確な強みになる
  • DGX Sparkの「最大200Bモデル推論」はNVIDIAの製品上限表現であり、全200Bモデルが快適・高速に動くことを意味しない
同じテーマから

サイト内検索