LM StudioでPDFや文書に質問する方法｜オフライン利用まで確認する

LM Studioで通常の会話ができるようになったら、手元のPDFや文書を追加して、その内容について質問することもできる。

これは文書を使ってモデルを再学習する機能ではない。質問するときに文書の内容を追加情報として使う仕組みだ。

最初は大量の資料を入れず、答えがどこに書かれているか自分で確認できる文書を1つ使う。

正解を自分で確認できる文書から始める

数ページのPDFや短いメモなど、内容を把握している文書が向いている。

質問も、

この文書の申込期限はいつ？

第2節に書かれた3つの条件を挙げて。

のように、原文を見れば答え合わせできるものにする。

最初から広い分析を頼むと、文書を正しく参照したのか、モデル自身の知識で補ったのかを判断しにくい。

文書を会話へ追加して質問する

LM Studioの文書チャットでは、公式資料でPDF、DOCX、TXTなどの追加が案内されている。

モデルを読み込んだ会話へ対象文書を追加し、決めておいた質問を送る。ここでまず確認するのは、文書を追加できたことと、質問へ文書に沿った答えが返ることだ。

短い文書と長い文書では処理が違う場合がある

文書全体がモデルのコンテキストへ収まる場合は、全文を追加情報として扱える場合がある。

一方、長い文書ではRAGを使い、質問に関係する部分を取り出してモデルへ渡す方法が使われる。

そのため、文書を追加したからといって、毎回その全文をモデルが読んでいるとは限らない。

長い資料で答えが見つからない場合は、原文にある固有名詞や用語を質問へ含めるなど、探したい箇所を具体化する。

オフライン利用は事前準備まで含めて確認する

LM Studioは、取得済みのモデルを使った会話や文書チャットをオフラインで利用できる構成を案内している。

ただし、モデルや必要な実行環境の取得、アプリの更新など、準備段階でネットワーク接続が必要になる操作はある。

オフラインで使う予定なら、通信できるうちに、

• LM Studio本体
• 使用するモデル
• 必要な実行環境
• 文書チャットが一度成功すること

を確認する。

その後、ネットワークを切った状態で同じ文書と質問を試すと、自分の構成でオフライン利用できるか確認しやすい。

回答は原文と照らし合わせる

文書を添付しただけで、返答が正しいとは限らない。

特に、

• 日付
• 数字
• 固有名詞
• 否定条件
• 例外条件

は原文と比較しやすい。

確認	見ること
文書	正しいファイルを追加したか
質問	原文にある語を使えているか
回答	原文と一致するか
情報なし	文書にない内容を勝手に補っていないか

うまくいかなければ、質問を具体化し、それでも難しければ短い文書で再現し、最後にコンテキストやRAG側の条件を確認する。

LM Studioの導入自体がまだなら、WindowsでLM Studioを始める手順へ戻る。長い文書とコンテキスト長の関係を整理したい場合は、LLMのコンテキスト長の考え方も確認できる。