Local LLMはNPUで動かせる？runtime・model形式・対応deviceを先に確認
目次
結論
Local LLMのNPU利用はruntime×execution provider×device×model formatの互換表を先に作り、fallback先も確認します。
このURLの役割は、製品名を並べることではなく、ローカルLLM NPU 対応 で検索する読者が選ぶ・止める・追加検証するのどれかを決められる状態にすることです。変わり得るなprice/plan/policy/API/stock/互換性には観測日を付け、performanceや工数のような環境依存値を公式仕様から推測しません。
判断表：runtime×device×model format 互換性 table
runtime × device × model format 互換性
| Device | Runtime | Execution provider | Model format | NPU path | CPU/GPU fallback | 根拠 date |
|---|---|---|---|---|---|---|
| target PC | exact | exact | exact | supported/unsupported | exact | observed |
このassetは完成時に「空欄がない表」にするためのものではありません。未確認・未測定を見える形で残し、それが結論を左右するなら結論を保留できる表にします。
比較の基本原則
NPU/GPU/iGPUはスペック表のTOPSだけではなく、runtimeとexecution providerが対象modelを実際にsupportするかを先に確認します。
未対応backendの速度を推測しません。対応可否と実測performanceを別列にします。
小型PC/edge deviceはmemory・thermal・network・fallbackを含めて用途分類します。
判断軸
1. runtime
runtime は同じ候補・同じ日時・同じworkload条件で確認します。公式に確認できる仕様はsourceへ、環境依存の値は実際の観測結果へ分け、未確認セルを推測で埋めません。
2. model format
model format は同じ候補・同じ日時・同じworkload条件で確認します。公式に確認できる仕様はsourceへ、環境依存の値は実際の観測結果へ分け、未確認セルを推測で埋めません。
3. memory
memory は同じ候補・同じ日時・同じworkload条件で確認します。公式に確認できる仕様はsourceへ、環境依存の値は実際の観測結果へ分け、未確認セルを推測で埋めません。
4. speed
speed は同じ候補・同じ日時・同じworkload条件で確認します。公式に確認できる仕様はsourceへ、環境依存の値は実際の観測結果へ分け、未確認セルを推測で埋めません。
5. fallback
fallback は同じ候補・同じ日時・同じworkload条件で確認します。公式に確認できる仕様はsourceへ、環境依存の値は実際の観測結果へ分け、未確認セルを推測で埋めません。
実務での使い方
- この記事で決めたいことを1文で固定し、比較対象を増やしすぎない。
- 結果を見る前に必須条件と除外条件を決める。
- 変わり得る 項目は最新の公式情報で埋め、
observed_atを付ける。 - 実測が必要な項目は同じinput/workloadを固定してraw logを保存する。
- costは表示単価ではなくretry、修正、人手、保守を含む単位へ換算する。
- 権利/security/プライバシーは「機能がある」と「自分の契約・設定で有効」を分ける。
- 不明項目が必須条件なら、問い合わせ・PoC・measurementへ送り、推測でランキングしない。
選ばない・進めない条件
『NPU搭載PC』というだけで任意のGGUF/LLMがNPU実行されるとは扱いません。
除外条件を記事に明記すると、比較ページが「全部おすすめ」の紹介記事になるのを防げます。条件を満たさない候補を先に外し、残った候補だけで価格や便利さを比較します。
一次情報
- Microsoft Learn — Windows ML overview
- Microsoft Learn — Windows ML execution providers
- ONNX Runtime — Execution Providers
- ONNX Runtime — OpenVINO EP
- Microsoft Learn — NPU devices / Copilot+ development
まとめ
Local LLMのNPU利用はruntime×execution provider×device×model formatの互換表を先に作り、fallback先も確認します。
変化が速い領域ほど、固定ランキングより再判定できる判断表の方が長く使えます。次回更新では変化したセルだけを最新の情報源/実際の観測結果で更新し、同じ判断基準で結論を再計算してください。
まとめ
- Local LLMのNPU利用はruntime×execution provider×device×model formatの互換表を先に作り、fallback先も確認します。 変化が速い領域ほど、固定ランキングより**再判定できる判断表**の方が長く使えます。次回更新では変化したセルだけを最新の情報源/実際の観測結果で更新し、同じ判断基準で結論を再計算してください。