Local / Edge解説

LM Studioでモデルを選ぶ方法|配布元・形式・量子化を確認する

LM Studioでモデルを選ぶ方法 — 配布元・形式・量子化を確認する
目次

LM Studioでモデルを検索すると、似た名前の候補や複数の量子化版が並ぶことがある。ここで検索結果の一番上をそのまま選ぶのではなく、誰が配布している何のモデルを、どの形式で取得しようとしているのかを確認する。

検索画面は候補を見つける入口であって、品質の順位表ではない。

まず配布元とモデル名を見る

LM Studioではキーワードやuser/model、Hugging FaceのURLなどからモデルを探せる。候補が出たら、最初に次を確認する。

配布元・リポジトリ:
モデルファミリー:
モデルの種類・派生版:
ファイル形式:
量子化:
ファイル容量:

同じ有名モデルの名前が含まれていても、公式配布、第三者によるGGUF変換、ファインチューニング、mergeなど内容が異なる場合がある。

配布者と元モデルを分けて確認する

第三者が公式モデルを変換・量子化して配布している場合、ファイルの配布者と元モデルの開発元は同じではない。

そのため、モデル名だけを見て「公式ファイルだ」と判断しない。

確認する順番は、

  1. LM Studioに表示されたリポジトリ
  2. その配布ページのモデルカードやREADME
  3. 元になったモデルの公式モデルカード
  4. ライセンスと利用条件

とすると、出所を追いやすい。

ファイル形式と量子化は別の情報

GGUFなどのファイル形式は、LM Studioの実行環境がモデルをどう読み込むかに関係する。量子化は、モデルの重みをどの精度で表現するかに関係する。

Q4Q5Q8などの表記は候補選びの材料になるが、数字だけで「この品質になる」「このVRAMなら必ず動く」と決めることはできない。

自分の用途で品質差が重要なら、同じ元モデルの候補を同じ質問で比較する。

ファイル容量と必要VRAMを同じにしない

ダウンロード画面に表示されるファイル容量は、SSDの空き容量を考える材料になる。

一方、実行時にはモデル本体以外にも、

  • コンテキスト長
  • KV cache
  • GPUオフロード
  • 実行時のバッファー

などが関係する。

そのため「10GBのGGUFだから10GBのVRAMがあればよい」とは判断しない。

検索順位や人気だけで選ばない

検索結果の順位やダウンロード数が参考になる場合はあっても、それだけで自分の用途に最適とは限らない。

日本語の会話、コード生成、画像入力、ツール利用など、目的によって必要な能力は違う。検索画面ではまず取得するファイルの身元を確認することに集中する。

ダウンロード前にこの6項目を埋める

リポジトリ:
元モデル:
ライセンス:
ファイル形式:
量子化:
ファイル容量:

ここまで分かれば、何を取得しようとしているか説明できる。分からない項目があれば、ダウンロード前にモデルカードへ戻る。

GGUFそのものを取得前に確認する項目は、GGUFをダウンロードする前の確認方法で整理できる。量子化の違いを詳しく比較したい場合は、GGUFのQ4・Q5・Q6・Q8の選び方へ進む。

まとめ

  • 検索結果の表示順ではなく、誰が配布しているモデルか、元になったモデルは何かを先に確認する
  • 同じモデル名に見えても、配布者、ファイル形式、ファインチューニングや量子化の違いがあるため候補を混同しない
  • 量子化はファイル容量や出力へ影響するため、数字だけで品質や必要VRAMを決めない
  • ダウンロード前にモデルカードとライセンスを開き、実際に取得するファイルを特定する

公式サイトで次に進む

この記事で明示的に扱うソフトだけを表示します。配布・手順は各公式ページで確認してください。

local-gen.jpがファイルを配布するものではなく、互換性を保証するものでもありません。

同じテーマから

この記事で扱ったデータ

モデル・GPU・実行ソフトの確認済みデータを、記事とは別に確かめられます。

サイト内検索