ローカルRAGのVector DBは必要？SQLite・専用DB・in-memoryを規模で選ぶ
目次
結論
小規模RAGは専用Vector DBを前提にせず、文書/chunk数・filter・更新頻度・backup・運用要件が増えた段階でembedded/local serverへ移します。
このURLの役割は、製品名を並べることではなく、Vector DB ローカル RAG 比較 で検索する読者が選ぶ・止める・追加検証するのどれかを決められる状態にすることです。変わり得るなprice/plan/policy/API/stock/互換性には観測日を付け、performanceや工数のような環境依存値を公式仕様から推測しません。
判断表：1千/10万/100万chunkの要件表
scale requirement table
| Target scale | Filters/ACL | Update frequency | Persistence/backup | Multi-user/server | Candidate class |
|---|---|---|---|---|---|
| ~1k chunks | low | low | simple | single | embedded/in-memory候補 |
| ~100k | medium | medium | required | optional | persistent local/server候補 |
| ~1m | high | high | operational | likely | dedicated DB候補 |
これは性能保証ではなくarchitecture shortlist。実データで負荷試験する。
このassetは完成時に「空欄がない表」にするためのものではありません。未確認・未測定を見える形で残し、それが結論を左右するなら結論を保留できる表にします。
比較の基本原則
ローカルAIはruntime/model revision/driver/OSをpinし、互換性と運用責任を先に確認します。
性能・電力・memoryは環境依存です。raw measurementなしに数値を埋めません。
remote公開・model download・Web UIではsecurity boundaryもhardware選定と同じくらい重要です。
判断軸
1. scale
scale は同じ候補・同じ日時・同じworkload条件で確認します。公式に確認できる仕様はsourceへ、環境依存の値は実際の観測結果へ分け、未確認セルを推測で埋めません。
2. filters
filters は同じ候補・同じ日時・同じworkload条件で確認します。公式に確認できる仕様はsourceへ、環境依存の値は実際の観測結果へ分け、未確認セルを推測で埋めません。
3. updates
updates は同じ候補・同じ日時・同じworkload条件で確認します。公式に確認できる仕様はsourceへ、環境依存の値は実際の観測結果へ分け、未確認セルを推測で埋めません。
4. backup
backup は同じ候補・同じ日時・同じworkload条件で確認します。公式に確認できる仕様はsourceへ、環境依存の値は実際の観測結果へ分け、未確認セルを推測で埋めません。
5. ops
ops は同じ候補・同じ日時・同じworkload条件で確認します。公式に確認できる仕様はsourceへ、環境依存の値は実際の観測結果へ分け、未確認セルを推測で埋めません。
実務での使い方
- この記事で決めたいことを1文で固定し、比較対象を増やしすぎない。
- 結果を見る前に必須条件と除外条件を決める。
- 変わり得る 項目は最新の公式情報で埋め、
observed_atを付ける。 - 実測が必要な項目は同じinput/workloadを固定してraw logを保存する。
- costは表示単価ではなくretry、修正、人手、保守を含む単位へ換算する。
- 権利/security/プライバシーは「機能がある」と「自分の契約・設定で有効」を分ける。
- 不明項目が必須条件なら、問い合わせ・PoC・measurementへ送り、推測でランキングしない。
選ばない・進めない条件
1,000/100,000/1,000,000といった規模閾値を測定なしの絶対性能保証として扱いません。
除外条件を記事に明記すると、比較ページが「全部おすすめ」の紹介記事になるのを防げます。条件を満たさない候補を先に外し、残った候補だけで価格や便利さを比較します。
一次情報
- Qdrant — Local Quickstart
- Chroma — Getting Started
- Hugging Face Hub — Repositories
- NIST — AI RMF Core
- Open WebUI — Documentation
まとめ
小規模RAGは専用Vector DBを前提にせず、文書/chunk数・filter・更新頻度・backup・運用要件が増えた段階でembedded/local serverへ移します。
変化が速い領域ほど、固定ランキングより再判定できる判断表の方が長く使えます。次回更新では変化したセルだけを最新の情報源/実際の観測結果で更新し、同じ判断基準で結論を再計算してください。
まとめ
- 小規模RAGは専用Vector DBを前提にせず、文書/chunk数・filter・更新頻度・backup・運用要件が増えた段階でembedded/local serverへ移します。 変化が速い領域ほど、固定ランキングより**再判定できる判断表**の方が長く使えます。次回更新では変化したセルだけを最新の情報源/実際の観測結果で更新し、同じ判断基準で結論を再計算してください。