Llamaの小型モデルをローカルで選ぶ方法｜1B・3Bを試す前の確認項目

「Llamaの軽いモデルをローカルで使いたい」と思ったとき、Llamaという名前だけでダウンロード先を決めない。

同じファミリーでも世代、モデル規模、Instruct版かどうか、ライセンス、配布物が異なる。まず使うモデルを一つの正式な候補として特定する。

最初にモデル名とリビジョンを固定する

候補ごとに次を記録する。

配布元:
ファミリー・世代:
正確なモデル名:
リビジョン:
ライセンス:
コンテキスト長:
公式の配布物:
使う実行環境:

MetaのLlama 3.2には1B Instructと3B Instructなどの公式モデルがある。どちらも「Llama小型モデル」ではあるが、同じモデルではない。

1Bと3Bを数字だけで順位付けしない

パラメータ数はモデル規模の違いを示すが、それだけで自分の用途における品質や速度を決めることはできない。

3Bだから必ず自分の質問に十分答えられる、1Bだから必ず速い、といった結論は、実行環境やハードウェア、実際の入力条件を確認せずには出せない。

公式モデルカードの性能表は候補を探す参考になるが、自分の日本語タスクでの順位へそのまま置き換えない。

小型モデルを使う理由を一つ決める

用途を具体的にする。

• 短い質問への応答
• 短文の要約
• 文書分類
• ローカルアプリ内の軽い補助
• オフラインで行う簡単な処理

用途が決まれば、「十分な品質」と「許容できる速度」を自分の入力で比べられる。

ライセンスをモデルごとに確認する

Llamaというファミリー名だけで、すべての世代や配布物の利用条件が同じだとは考えない。

実際に使うモデルの公式ページでライセンスと利用条件を確認する。製品へ組み込む、再配布する、公開サービスで使う場合は、用途に関係する条件を原文へ戻って確認する。

公式の重みと変換済みファイルを分ける

実行環境によっては公式の重みを直接使う場合もあれば、GGUFなど別形式のファイルを使う場合もある。

変換済みファイルや量子化版を使うときは、

元になった公式モデル:
変換・量子化した配布元:
量子化方式:
リビジョン:

を分けて記録する。

同じLlama 3.2 3Bでも、量子化が違えばメモリ使用量や出力条件も変わる。

最後は同じプロンプトで2候補を比べる

候補を1Bと3Bなど2つに絞ったら、同じプロンプトセットで比較する。

• 必要な回答ができるか
• 指示形式を守れるか
• 日本語が用途に合うか
• メモリ使用量
• 応答時間

を同じ条件で記録する。

「小さいから選ぶ」だけでなく、自分の用途に必要な最低限の品質を満たす中で軽いモデルを選ぶと、候補を整理しやすい。

モデル規模そのものの違いを広く比較したい場合は、3B・4Bと7B・8BのローカルLLMの選び方を確認できる。日本語の比較質問を作りたい場合は、日本語ローカルLLMのテストセットを作る方法へ進む。