クラウドGPUをどう選ぶ？RTX 5090とデータセンターGPUのVRAM・運用・総額見積もり

クラウドGPUは時間単価だけでは選べません。32GBに余裕を残して収まる仕事なら5090系から、足りなければH100・H200・B200も含めて比べます。 候補を絞ってから、同じ仕事を終えるまでの時間と総額を見ましょう。

RTX 5090はVRAM 32GB、NVIDIAのHGX構成にあるH100は80GB、H200は141GB、B200は180GBです。ただし、モデルの重みだけで公称容量を使い切る計画にはできません。会話の内容を保持するKVキャッシュや、計算中の作業領域も必要になります。

使いたいモデル、量子化、会話の長さ、まとめて処理する数を決めたら、次のどちらに当てはまるか見ます。容量を満たす候補がそろってから、仕事を終えるまでの総額を比べていきます。

実行時の条件	比較する候補
量子化・文脈長・バッチ数まで含め32GBに余裕を持って収まり、MIGや複数GPUが不要	RTX 5090系
必要容量が32GBを超える、または大規模学習・複数GPU・高い分離性が必要	H100・H200・B200等も比較

最初にVRAMで候補を分ける

候補ごとの容量と、比較に入れたい用途は次の通りです。表はGPU単体の公称値で、クラウドの枠に付くCPUやRAMは含みません。

GPU	GPUメモリ	主に比較したい用途
RTX 5090	32GB GDDR7	小～中規模LLM、画像・動画生成、個人開発
H100 SXM	80GB HBM3	大規模推論、学習、複数利用者
H200 SXM	141GB HBM3e	80GBを超えるモデル、大容量推論
B200 SXM	180GB HBM3e	大規模学習・推論、複数GPU構成

実行時に60GB必要な仕事を考えてみましょう。5090一枚には収まらないので、CPUへ一部を置くか、複数GPUへ分ける必要があります。その設定や待ち時間を含めて、H100一枚の案と比べます。反対に、32GBで終わる仕事なら、大容量GPUを借りても余った容量が役立たない場合があります。

必要量はモデル名だけで決めず、予定の設定で起動ログや短い実行のメモリ使用量を見てください。保存ファイルの大きさだけでは、実行中に必要な容量までは分かりません。

小さいLLMの同一試験では5090を選ぶ

容量が足りる場合、どれくらいの差があれば上位GPUを選びたくなるでしょうか。比較材料にするのは、Runpodが2026年9月15日に測定したQwen2.5-7B-InstructのvLLM試験です。毎秒1リクエストという負荷で、各カードの処理能力を限界まで引き出した試験ではありません。

同じモデル・試験	RTX 5090	H100 SXM	H200	B200
1利用者の生成速度	101トークン/秒	165トークン/秒	195トークン/秒	272トークン/秒
最初のトークンまでの中央値	36ms	31ms	41ms	20ms
100万出力トークンの当時の計算費	2.24米ドル	7.78米ドル	10.20米ドル	14.98米ドル

費用は測定日のSecure Cloud料金を使ったRunpodの計算で、いま注文する見積もりや請求実績ではありません。この試験ではH100 SXMの生成が約1.63倍速くても、出力単価は約3.47倍でした。待ち時間を縮めるためにその差額を払う必要がなければ、この小型LLM用途は5090を選びます。大きなモデルや、多くの利用者へ限界まで同時配信する場合は、別に確かめる必要があります。

10月19日の単価では、H100は約3.35倍の完了速度が必要

2026年10月19日のRunpod公開Pods料金で計算してみます。掲載額はRTX 5090が1.19米ドル/時間、H100 SXMが3.99米ドル/時間、H200が5.29米ドル/時間、B200が7.99米ドル/時間でした。保存費は別で、使う地域と空き状況も注文時に確かめます。

同じ仕事で5090の課金時間を1時間とすると、計算料金は1.19米ドル。H100 SXMが同額以内になるには、1.19÷3.99時間、約17.9分以内に終わる必要があります。つまり約3.35倍の完了速度が分岐です。上の約1.63倍という生成速度だけでは、その条件を満たしません。モデル準備や入力処理を含むジョブ完了時間は別指標なので、これも実測総額の代わりではなく、割高なGPUへ移る理由を考える目安です。

この価格記録は公開ページの確認によるものです。ログインや有料起動はしておらず、特定地域ですぐ借りられる在庫を確保・確認した状態ではありません。

データセンターGPUは共有運用にも強い

一人で使う仕事から、複数人や複数サービスへ提供する仕事へ広がると、容量以外にも必要な機能が出てきます。GPUをどう分けるか、複数GPUをどうつなぐかも選ぶ条件になります。

NVIDIAのMIGは、一つの対応GPUを複数の独立したGPUインスタンスへ分ける仕組みです。H100、H200、B200も対象なので、利用者やサービスごとにGPU資源を分けたい場合の候補になります。この使い方は、5090を一人で占有する場合と分けて考えます。

HGXには4基・8基などを高速接続する構成もあります。大規模学習でGPU間のデータ交換が多いなら、カード名と枚数に加え、その接続方式も比べましょう。MIGについても、GPUが対応することと、借りるサービスが提供することは別です。枠の詳細で使えるか確認してください。

小さい処理ならRTX 5090系が候補

32GB内で完結し、GPUを利用者ごとに分割する必要もなければ、5090系で短く試すところから始めやすいです。たとえば、次のような仕事が候補になります。

• 7B～30B級LLMのうち、量子化・文脈長・バッチ数を含む実行時の必要VRAMが32GB内に収まる設定
• ComfyUIの画像生成
• 短時間の動画生成
• 個人開発や検証
• 数時間だけGPUを借りたい処理

ただし、この用途なら必ず安いという保証ではありません。画像・動画でもモデルや解像度によって必要量は変わります。同じ5090でも、付いてくるCPU、RAM、保存領域、地域、停止条件が違うので、実際に借りる枠の条件で見ます。

大容量モデルではH100・H200・B200が候補

32GBを超えるモデルを、CPUへ退避せずGPUへ置きたいなら、大容量GPUへ比較を広げます。80GBで収まるならH100、80GBを超えて141GBが必要ならH200、さらに容量やBlackwell世代の大規模構成が必要ならB200を比べてみましょう。

容量を満たした候補同士なら、次は完了時間と総額です。時間単価が高くても短く終わって安くなるのか、5090で十分なのかを、準備や保存も含めて確かめます。

時間単価ではなくジョブ総額で比べる

生成している時間だけを測ると、モデルを準備している間や、停止を忘れた間の課金が抜けてしまいます。テスト時は、次の項目を分けて残しておきましょう。

• GPU計算時間と、GPU・CPU・RAMを含むインスタンス料金
• 永続ストレージ
• データ転送
• 起動待ち
• 再試行
• アイドル時間
• 停止後に残る保存費用

これらを二重計上せず、請求額へまとめる式は次の通りです。

ジョブ総額 = 全試行の計算料金 + 別途請求の保存料金 + 別途請求の通信料金

準備、再試行、待機も課金対象なら計算料金へ入れます。GPU・CPU・RAMが一括の料金に、部品ごとの代金をもう一度足さないようにしてください。保存や通信も含まれる分は除きます。課金されない待ち時間は、金額とは別に使い勝手の記録へ残します。

以下は相場でも実測でもない説明用の仮定です。同じ入力・出力条件の仕事がH200 1枚で30分、RTX 5090 2枚で90分かかり、GPUごとの時間課金で準備・再試行はなく、通信は料金に含まれるとします。

仮の条件・費用	H200 1枚	RTX 5090 2枚
1枚あたりの仮単価	1,200円/時間	300円/時間
計算料金	1枚 × 0.5時間 × 1,200円＝600円	2枚 × 1.5時間 × 300円＝900円
別請求の保存がない場合の総額	600円	900円
今回分の保存料金を仮に追加	500円	0円（計算料金に含む）
保存込みの総額	1,100円	900円

この例では、単価が低い5090でも、二枚を長く使うため計算料金は高くなります。ところが保存料金を加えると、今度はH200側が高くなります。料金表の一行だけでは決められないところですね。実際の候補では、GPU一枚ごとかインスタンス全体かを確かめ、保存期間、通信、課金単位も置き換えてください。

同じ入力を最後まで処理できたら、その記録を使って見積もりを更新します。失敗してやり直した料金も含めましょう。成功した一回だけを使うと、普段の仕事にかかる費用を小さく見積もってしまいます。

同じGPU名でもクラウド条件は違う

GPUへ渡す前のデータ読み込みやCPUでの前処理にも時間がかかります。同じGPU名でも、CPUや保存領域が足を引っ張れば仕事の完了は遅れます。借りる枠の詳細で、次の条件を確認しましょう。

項目	確認内容
GPU	正確な型番とVRAM
CPU・RAM	前処理やCPU退避に足りるか
ストレージ	読み書き速度、永続化、料金
地域	必要な場所で在庫があるか
ネットワーク	データ転送量と料金
中断条件	停止される可能性と復旧方法
複数GPU	接続方式と利用可能台数

GPUだけでなく、これらを組み合わせたインスタンス全体で価格を並べると、安く見えた枠の不足も見つけやすくなります。

推論・画像生成・学習で選び方が変わる

LLM推論

一人で対話するなら、最初の返事と、回答が終わるまでの待ち時間を見ます。複数人へ同時に返すなら、必要VRAMに加えて、一定時間で何件返せるかも測りましょう。

画像・動画生成

一人で数枚ずつ作るのか、大量の画像や大きな動画モデルをまとめて動かすのかで、必要な構成が変わります。まず5090系で予定の設定が収まるかを見て、容量が足りなければ大容量GPUを試す順にします。

学習・追加学習

大きなバッチや複数GPUで学習するなら、GPU間通信も含めて選びます。一枚の時間単価だけで決めず、学習を終える時間と、途中保存したチェックポイントから再開できる手順を確かめてください。

迷ったら短時間テストで決める

容量と運用条件で候補を二つまで絞れたら、同じコンテナ、モデル、入力で短く試します。いきなり長い学習や大量生成を始めず、普段の一件を最後まで終えられる条件にしましょう。試す前に、上限金額と終了予定時刻も決めておくと、速さを調べる間に料金だけ増えるのを避けやすくなります。

記録するのは次の4つで十分です。

1. GPUメモリ使用量
2. 処理完了時間
3. 実際の請求額
4. 保存・再起動まで含めた運用の手間

最後まで処理できた候補だけを残し、請求額と待ち時間を並べましょう。出力が保存でき、必要な結果を取り出せたところを一件の完了にします。速度が速くても、出力が途中で切れたり、必要なファイルが残らなかったりした試行は、成功した一件として費用を割らないようにしてください。安くても待てない長さなら、その仕事には合いません。保存したデータを戻して再開できるかも一度試してから、長い処理へ進むのがおすすめです。

注文する直前には、使う地域の空き、最低利用時間、保存領域、転送費用、停止後も残る課金を見積もりへ反映してください。目的の仕事を、払える金額と待てる時間で終えられるか。そこまで分かれば、GPU名に迷わず枠を選べます。