Spot・Preemptible GPUはどんな処理なら使える？中断コストを含めて比較
目次
結論
checkpointから再開でき、締切へ余裕があるbatchはSpot候補、interactive/期限厳格/状態保存困難なjobはOn-Demandを優先します。
この記事では「おすすめ順」を先に作りません。まず、検索者が最終的に決めなければならない条件を表へ落とし、公式一次情報・自分の実測値・editorialな判断を混ぜないことを優先します。そうすると、価格や機能が更新されても判断の骨格を保ったまま差分だけを更新できます。
この記事の判断表
中断時点を変えた期待総費用シート
| Scenario | Interrupt at | Lost work | Checkpoint restore | Re-run cost | Deadline impact |
|---|---|---|---|---|---|
| A | 10% | ||||
| B | 50% | ||||
| C | 90% |
期待総費用 = Spot実行費 + 中断後再実行費 + deadline損失
中断率は根拠なく固定せず、自社観測またはprovider条件でscenario化する。
空欄は欠点ではありません。実測していない速度、見ていない求人件数、未確認の契約条件を推測で埋める方が危険です。数値や変わり得るな条件には観測日を付け、変更時に再確認できる形にします。
判断の前提
Cloud GPUはGPU単価だけでは総額になりません。compute、storage、network、idle、retry、capacity、地域を別々に記録し、1 job・1月の両方で原価を出します。
在庫と性能は同じ問題ではありません。高速なGPUでも必要地域に在庫がない、reservation条件が合わない、data移動が高い場合は実運用で不利になります。
性能値を推測で埋めません。provider/NVIDIAの仕様は互換性確認に使い、tokens/s・latency・job timeのようなworkload依存値は自分の環境で測った値だけを採用します。
比較・判断するときの3つの確認
1. 割引を同じ条件へ揃える
割引 はproviderのmarketing値と自分のworkload値を混ぜません。spec/price/地域は公式source、latency・job time・throughput・retryは必要に応じ実際の観測結果として別列へ保存します。
2. 中断率を同じ条件へ揃える
中断率 はproviderのmarketing値と自分のworkload値を混ぜません。spec/price/地域は公式source、latency・job time・throughput・retryは必要に応じ実際の観測結果として別列へ保存します。
3. checkpointを同じ条件へ揃える
checkpoint はproviderのmarketing値と自分のworkload値を混ぜません。spec/price/地域は公式source、latency・job time・throughput・retryは必要に応じ実際の観測結果として別列へ保存します。
残りの判断軸も同じ表へ入れる
再開 と 期限 も、上の判断表へ同じ粒度で記録します。特に料金、契約、availability、求人条件、platform policyなど変化する情報は、記事公開日ではなく実際に意思決定する日の一次情報を優先してください。
やらない条件・止める条件
AWS/Azure等が中断なしを保証しないSpotへ、checkpoint不能な長時間jobを割引だけで載せません。
これは消極的な注意書きではなく、意思決定記事に必要な「買わない・契約しない・公開しない・応募を急がない」条件です。適合しない選択肢を先に落とすことで、残った候補の細かな差を比較しやすくなります。
実務での進め方
- 目的を1文にする。 「AIを導入したい」「転職したい」のような広い目的ではなく、このページで何を決めるのかを1文にします。
- 判断表の列を先に埋める。 公式一次情報で埋まるもの、自分の観測が必要なもの、vendor/採用担当へ質問しないと分からないものを分けます。
- 空欄を質問へ変える。 不明な項目を推測せず、問い合わせ・面接・PoC・短時間検証の入力へ変換します。
- 除外条件を先に適用する。 必須条件を満たさない候補は、魅力的な機能や割引があっても一度外します。
- 最後に価格/順位を見る。 条件が揃った候補だけでTCO、工数、成長性、運用負担などを比較します。
実行前チェック
-
割引の値/条件/根拠を同じ列で比較した -
中断率の値/条件/根拠を同じ列で比較した -
checkpointの値/条件/根拠を同じ列で比較した -
再開の値/条件/根拠を同じ列で比較した -
期限の値/条件/根拠を同じ列で比較した - 変わり得る情報には
2026-09-12以降の最新一次情報を使う - 未測定のperformance/quality/求人件数を作っていない
- 自分の判断とsourceの事実を分けている
- 除外条件を満たさない候補を無理に推していない
まとめ
checkpointから再開でき、締切へ余裕があるbatchはSpot候補、interactive/期限厳格/状態保存困難なjobはOn-Demandを優先します。
判断表を一度作れば、provider・求人・試験・platformの条件が変わったときも、全記事をゼロから考え直す必要はありません。変わったセルだけを公式情報で更新し、同じ判断基準で再判定できます。
まとめ
- checkpointから再開でき、締切へ余裕があるbatchはSpot候補、interactive/期限厳格/状態保存困難なjobはOn-Demandを優先します。 判断表を一度作れば、provider・求人・試験・platformの条件が変わったときも、全記事をゼロから考え直す必要はありません。変わったセルだけを公式情報で更新し、同じ判断基準で再判定できます。