ソフトを選んだ後、どこを読む?

対応表は候補を絞るためのものです。モデルを入れる手順と、動作が遅いときの確認は記事で詳しく追えます。

  1. 選ぶ前:GGUFとsafetensorsを見分ける

    モデル形式から使えるソフトを考えます。

  2. 導入後:LM StudioへGGUFを取り込む

    モデルを探した後の具体的な操作です。

  3. 遅いとき:GPUが使われない原因を探す

    選んだソフトが動いても遅い場合に確認します。

9ソフト
9 / 9 ソフト「条件付き」は対応条件がある記録です。各ソフトの「条件・出典」を開くと対象機種や制約を確認できます。

OSと形式は、それぞれ記録のある候補を絞る条件です。選んだOS・形式・モデルのすべての組み合わせで動くことを保証するものではありません。対応状況と確認日を見て、導入前に公式情報を確認してください。

デスクトップ

Hermes Agent

Nous Research

ローカルモデルをエージェントの処理に使うアプリです。

対応情報の確認日:

ローカルモデルの選び方・導入手順 →

OS
Windows対応Linux対応macOS対応
形式
GGUF対応
実行環境
5件(下の「条件・出典」に全件掲載)
条件・出典を読む(OS 3件・形式 1件・実行環境 5件)

OS・機種の条件

  • Windows対応

    対象CPU・チップ: x64 / arm64

    Windowsのデスクトップアプリはx64・arm64の全リリースチャンネルでLocal Modelsが既定で有効です。

    出典: Local Models | Hermes Agent

  • Linux対応

    対象CPU・チップ: x64 / arm64

    Linuxのデスクトップアプリはx64・arm64の全リリースチャンネルでLocal Modelsが既定で有効です。Linux向けの簡易導入を提供予定としていた旧案内から更新されています。

    出典: Local Models | Hermes Agent

  • macOS対応

    対象CPU・チップ: x64 / arm64

    macOSのデスクトップアプリはx64・arm64の全リリースチャンネルでLocal Modelsが既定で有効です。GPU実行はMetalを使い、CPU実行も案内されています。

    出典: Local Models | Hermes Agent

モデル形式の条件

  • GGUF対応

    実行環境経由

    Hugging FaceからGGUFファイルを検索でき、手元の.ggufファイルも複製せずにライブラリへ関連付けられます。

    出典: Local Models | Hermes Agent

実行エンジン・バックエンド(5件)

  • llama.cpp対応

    実行エンジン

    公式の固定版llama.cppを導入・管理するほか、すでに起動しているllama-serverも利用できます。

    出典: Local Models | Hermes Agent

  • CUDA対応

    処理基盤 · OS: Windows / Linux · ハードウェア: NVIDIA

    対応するNVIDIA GPUで利用します。Linuxはx64・arm64が対象で、CUDA 13に対応するドライバーが必要です。

    出典: Local Models | Hermes Agent

  • Metal対応

    処理基盤 · OS: macOS · ハードウェア: Apple

    出典: Local Models | Hermes Agent

  • Vulkan条件付き

    処理基盤 · OS: Windows / Linux · ハードウェア: AMD / Intel

    VulkanはWindowsのx64とLinux向けに案内されています。自動選択ではAMD・Intel GPUにVulkanを優先しますが、モデルとドライバーの適合性は実際の環境で確認します。

    出典: Local Models | Hermes Agent

  • CPU対応

    処理基盤

    出典: Local Models | Hermes Agent

ランタイム

llama.cpp

ggml-org

GGUFモデルを実行するコマンドやサーバーを提供します。

対応情報の確認日:

Windows・NVIDIA GPUでの導入手順 →

OS
Windows対応macOS対応Linux対応Android対応iOS対応
形式
GGUF対応
実行環境
17件(下の「条件・出典」に全件掲載)
条件・出典を読む(OS 5件・形式 1件・実行環境 17件)

OS・機種の条件

  • Windows対応

    対象CPU・チップ: x64 / arm64

    出典: Release b10336

  • macOS対応

    対象CPU・チップ: Apple Silicon / Intel

    出典: Release b10336

  • Linux対応

    対象CPU・チップ: x64 / arm64 / s390x

    出典: Release b10336

  • Android対応

    対象CPU・チップ: arm64

    出典: Release b10336

  • iOS対応

    iOS向けのXCFrameworkがリリース成果物として提供されています。

    出典: Release b10336

モデル形式の条件

実行エンジン・バックエンド(17件)

デスクトップ

LM Studio

Element Labs, Inc.

画面からモデルを探し、ローカルで会話を始められるアプリです。

対応情報の確認日:

Hugging FaceのGGUFを取り込む →

OS
Windows対応macOS対応Linux対応
形式
GGUF対応MLX条件付き
実行環境
2件(下の「条件・出典」に全件掲載)
条件・出典を読む(OS 3件・形式 2件・実行環境 2件)

OS・機種の条件

  • Windows対応

    対象CPU・チップ: x64 / ARM64

    出典: System Requirements

  • macOS対応

    対象CPU・チップ: Apple Silicon

    macOS 14以降が必要です。記録したシステム要件ではIntel Macは非対応です。

    出典: System Requirements

  • Linux対応

    対象CPU・チップ: x64 / ARM64

    対応するAppImage環境の基準としてUbuntu 20.04以降が案内されています。

    出典: System Requirements

モデル形式の条件

実行エンジン・バックエンド(2件)

デスクトップ

NVIDIA Personal AI Router (PAIR)

NVIDIA

LM StudioやOllamaを動かすPCへ要求を振り分けます。PAIR自体がモデルを推論するわけではありません。

対応情報の確認日:

公式の接続先と使い方 →

OS
Windows条件付きmacOS条件付きLinux対応
形式
未確認
実行環境
2件(下の「条件・出典」に全件掲載)
条件・出典を読む(OS 3件・形式 0件・実行環境 2件)

OS・機種の条件

モデル形式の条件

対応形式はこの一覧では未確認です。非対応という意味ではありません。実際に使うソフトやモデルの解説で確認してください。

実行エンジン・バックエンド(2件)

ランタイム

Ollama

Ollama

コマンドやAPIからローカルモデルを使う実行環境です。

対応情報の確認日:

公式の導入・利用手順 →

OS
Windows対応macOS対応Linux対応
形式
Safetensors条件付きGGUF条件付き
実行環境
6件(下の「条件・出典」に全件掲載)
条件・出典を読む(OS 3件・形式 2件・実行環境 6件)

OS・機種の条件

モデル形式の条件

  • Safetensors条件付き

    取り込み · 対象モデル系統: Llama / Mistral / Gemma / Phi3

    モデルの取り込み対象はLlama・Mistral・Gemma・Phi3です。アダプターの取り込みはLlama・Mistral・Gemma向けに案内されています。Safetensorsの全モデル系統に対応するわけではありません。

    出典: Importing a Model

  • GGUF条件付き

    取り込み

    GGUFモデルとアダプターはModelfileにパスを指定して取り込みます。ファイル形式だけでは、モデルの構造に対応するかは判断できません。

    出典: Importing a Model

実行エンジン・バックエンド(6件)

  • CUDA条件付き

    処理基盤 · ハードウェア: NVIDIA

    NVIDIA GPUには、対応するCompute Capability(GPUの計算機能の世代)が必要です。

    出典: GPU

  • ROCm条件付き

    処理基盤 · ハードウェア: AMD

    AMD GPUの対応可否は、公式に記載されたOSと機種の条件で変わります。

    出典: GPU

  • Metal対応

    処理基盤 · ハードウェア: Apple

    出典: GPU

  • Vulkan条件付き

    処理基盤 · OS: Windows / Linux

    Vulkanバックエンドのインストールが必要です。記録した公式文書では、インストール済みなら既定で有効になるとされています。

    出典: GPU

  • MLX条件付き

    実行エンジン · OS: macOS · 対象CPU・チップ: arm64

    macOSのarm64環境では既定で有効です。

    出典: Development

  • MLX条件付き

    実行エンジン · ハードウェア: NVIDIA

    CUDA経由でMLXを使うにはCUDA 13以降が必要です。ほかのプラットフォームで選択する場合も、公式の条件を確認します。

    出典: Development

デスクトップ

OpenClaw

OpenClaw Foundation

LM StudioやOllamaなどへ接続して、モデルをエージェントの処理に使います。

対応情報の確認日:

公式のローカルモデル接続条件を読む →

OS
Windows対応macOS対応Linux対応
形式
未確認
実行環境
5件(下の「条件・出典」に全件掲載)
条件・出典を読む(OS 3件・形式 0件・実行環境 5件)

OS・機種の条件

モデル形式の条件

対応形式はこの一覧では未確認です。非対応という意味ではありません。実際に使うソフトやモデルの解説で確認してください。

実行エンジン・バックエンド(5件)

  • LM Studio対応

    処理基盤

    公式のローカルモデル文書はLM Studioに対応し、利用できる場合はResponses APIを推奨しています。

    出典: Local models - OpenClaw

  • Ollama対応

    処理基盤

    ツール呼び出しにはOllama固有の/api/chatを使います。OpenAI互換の/v1エンドポイントは、公式文書で明確に非推奨とされています。

    出典: Ollama - OpenClaw

  • MLX対応

    処理基盤

    出典: Local models - OpenClaw

  • vLLM対応

    処理基盤

    出典: Local models - OpenClaw

  • SGLang対応

    処理基盤

    出典: Local models - OpenClaw

デスクトップ

Stability Matrix

LykosAI

画像生成ソフトやモデルをまとめて管理するアプリです。生成時の対応条件は、導入したソフト側で確認します。

対応情報の確認日:

Forge Neo・ComfyUIの導入手順 →

OS
Windows対応
形式
未確認
実行環境
未確認(記録なし)
条件・出典を読む(OS 1件・形式 0件・実行環境 0件)

OS・機種の条件

モデル形式の条件

対応形式はこの一覧では未確認です。非対応という意味ではありません。実際に使うソフトやモデルの解説で確認してください。

実行エンジン・バックエンド(0件)

実行エンジンの対応情報はこの一覧では未確認です。管理ソフトの場合は、導入する生成ソフト側の条件も確認してください。

デスクトップ

Unsloth Desktop

Unsloth

ローカルモデルの利用や学習などをまとめるデスクトップ環境です。機能ごとに必要な構成を確認します。

対応情報の確認日:

画面の役割とローカルAIの始め方 →

OS
Windows対応macOS対応Linux対応
形式
GGUF対応Safetensors条件付き
実行環境
4件(下の「条件・出典」に全件掲載)
条件・出典を読む(OS 3件・形式 2件・実行環境 4件)

OS・機種の条件

モデル形式の条件

  • GGUF対応

    実行環境経由

    出典: unslothai/unsloth

  • Safetensors条件付き

    実行環境経由

    対応可否はモデル系統と選択するバックエンドによって変わります。

    出典: unslothai/unsloth

実行エンジン・バックエンド(4件)

  • CPU条件付き

    処理基盤

    CPUで利用できる機能はありますが、対応する処理と実用的な速度は機能によって変わります。

    出典: unslothai/unsloth

  • NVIDIA対応

    処理基盤 · ハードウェア: NVIDIA

    出典: unslothai/unsloth

  • AMD条件付き

    処理基盤 · ハードウェア: AMD

    AMD/ROCm対応は改善が進められており、利用できる機能はOSや処理内容によって異なります。

    出典: unslothai/unsloth / 2x Faster Qwen3.8-Flash + GLM-5.3-Flash MTP

  • MLX対応

    処理基盤 · OS: macOS · ハードウェア: Apple

    出典: unslothai/unsloth

デスクトップ

WanGP

DeepBeepMeep

画像・動画などの生成モデルを動かす環境です。選ぶモデルで対応GPUと必要な構成が変わります。

対応情報の確認日:

画像・動画生成の導入とモデル選び →

OS
Windows対応Linux対応
形式
GGUF対応FP8対応INT8対応NVFP4条件付きNunchaku条件付き
実行環境
2件(下の「条件・出典」に全件掲載)
条件・出典を読む(OS 2件・形式 5件・実行環境 2件)

OS・機種の条件

  • Windows対応

    公式READMEにローカル導入手順と、Windows向けのコミュニティ製デスクトップインストーラーが案内されています。

    出典: WanGP README

  • Linux対応

    公式文書にLinux向けの導入手順があります。具体的なGPU・バックエンドの対応はモデルによって変わります。

    出典: WanGP README

モデル形式の条件

  • GGUF対応

    実行環境経由

    GGUFを含む複数の量子化済みチェックポイント形式に対応します。利用できる形式は、選択するモデル系統によって変わります。

    出典: WanGP README

  • FP8対応

    実行環境経由

    出典: WanGP README

  • INT8対応

    実行環境経由

    出典: WanGP README

  • NVFP4条件付き

    実行環境経由

    対応するNVIDIAハードウェアと、対応版のモデルを組み合わせた場合に利用できます。

    出典: WanGP README

  • Nunchaku条件付き

    実行環境経由

    対応するモデル系統で利用できます。

    出典: WanGP README

実行エンジン・バックエンド(2件)

  • NVIDIA GPU対応

    実行方式の分類は未確認 · ハードウェア: NVIDIA

    公式READMEはGTX 10XX、RTX 20XX以降も対応範囲に挙げています。利用できるモデルや高速化機能はGPUのアーキテクチャによって異なります。

    出典: WanGP README

  • AMD RDNA GPU条件付き

    実行方式の分類は未確認 · ハードウェア: AMD

    公式READMEはRDNA 2・3・3.5・4への対応を挙げています。実際の適合性と速度はモデル・バックエンドによって変わります。

    出典: WanGP README

次に進む

ソフトを選んだ後は、モデル・GPUの仕様と、条件が一致する実測を別々に確認します。ソフト対応だけから動作可否を断定しません。