特集

手元で動かすAI

ローカルAIを始めるとき、最初に新しいPCを買う必要があるとは限りません。今の環境を確かめ、実行ソフトと配布形式を理解し、小さく試す。順番に読める既存の解説を選びました。

まず環境と仕組みを知る

PCとモデルの条件を分けて確認します。

ローカルAIを始める前に、OS、GPUまたはチップ、GPUメモリの構成、システムRAM、ストレージの空き容量を確認する方法を整理します。先に自分のPCの現在地を記録し、その後で実行環境とモデルを選びます。

GGUFを選ぶときは、形式名だけでなく配布元、元モデル、量子化、使うランタイム、ファイル容量とライセンスを確認する。同じモデル名でも配布者や量子化が違えば別の配布物として扱いたい。

LM StudioはGUI中心のデスクトップアプリ、Ollamaはモデル管理と実行、llama.cppはGGUFを直接扱う実行環境として性格が異なる。OS、GGUFの扱い、操作方法、実行制御から用途に合うものを選ぶ。

使うソフトを決めたら、それぞれの導入手順へ。

Windows版Ollamaを公式インストーラーから導入し、公式library modelを1つ起動して応答を確認するまでの手順。`ollama ps`でGPU/CPU配置とコンテキストを確認してから、GGUF importやAPI連携へ進む。

Windows版LM Studioを公式サイトから導入し、モデルを1つダウンロードして読み込み、短い返答を得るまでの最短手順。GPU offloadやコンテキスト調整は初回起動後に行う。

導入手順・実行ソフトに実質的な変更があったとき、選書と順序を見直します。