スキャンPDFをローカルRAGで使う前のOCR手順|まず文字情報を確認
スキャンPDFをRAGへ入れる前に、文字情報の有無、OCRの言語設定、縦書きや表などの文書構造、ページ参照を確認し、検索できる文字を作ってから抽出品質を点検する手順を整理します。
新着順に読む、local-genの記事。全268件。
スキャンPDFをRAGへ入れる前に、文字情報の有無、OCRの言語設定、縦書きや表などの文書構造、ページ参照を確認し、検索できる文字を作ってから抽出品質を点検する手順を整理します。
SDXL Baseだけで生成する場合と、後半の処理へRefinerを加える二段構成の違いを整理します。同じプロンプトと生成条件で比べ、追加モデルの読み込み・メモリ・生成時間に見合う変化があるか判断します。
Stable Diffusion 3.5 LargeとMediumを選ぶときに、公式のモデル情報、ライセンス、実行方法、必要な構成要素、手元のPCで読み込める条件を確認し、モデル規模だけに頼らず比較する方法を整理します。
画像生成モデルを総合画質だけで比べず、作りたいもの、使いたいワークフロー、ライセンス、配布形式、手元のPC条件から候補を絞る方法を整理します。Stable Diffusion系、SDXL、FLUX、Qwen-Imageの入口を公式情報の範囲で比較します。
ローカルLLMの速度を見るときに、入力処理、最初のトークンが出るまでの時間、生成中のtokens/s、リクエスト全体の所要時間を分け、用途に合う指標を同じ条件で比較する方法を整理します。
TypeScriptからローカルLLMのOpenAI互換APIへ接続するときに、ベースURL、リクエスト、ストリーミング、AbortControllerによる中止、レスポンス検証を最小構成で確認する方法を整理します。
中古RTX 3090を画像・動画生成用に検討するとき、24GBのVRAMだけで決めず、個体の状態、電源、冷却、カードサイズ、保証、同じ予算で買える新品まで確認する方法を整理します。
Vision LLMは画像を入力して説明や質問回答を返すAI、画像生成AIは文章や画像を条件に新しい画像を作るAIです。入力と出力の違いから、画像理解・OCR・画像生成のどれを選ぶか整理します。
Wan 2.2の5B TI2VとA14B系を、パラメータ数の大小だけで比べず、文章から動画・画像から動画といった用途、必要ファイル、公式ワークフロー、実行時のVRAMと生成時間から選ぶ方法を整理します。
Windowsのタスクマネージャーと設定画面で、GPU名、専用GPUメモリ、共有GPUメモリ、搭載RAM、ストレージの空き容量を混同せず確認する方法を整理します。ローカルAIのモデルや実行環境を選ぶ前の確認に使えます。
Windows ML、DirectML、CUDAを同じ種類のGPU機能として比べず、Windows上のモデル実行基盤、DirectX 12上の機械学習API、NVIDIA GPU向けの計算基盤という役割に分けて整理します。
WindowsでローカルAIを動かすとき、LinuxやDocker中心ならWSL2、Windowsアプリ中心ならWindowsネイティブを候補にし、GPU対応、ファイル配置、ポート、更新やデバッグのしやすさまで含めて選ぶ方法を整理します。
初めての1台や故障対応に時間をかけたくないならBTO、電源やケースまで細かく選びたいなら自作が向く。ローカルAI用PCでは、購入価格だけでなく保証・拡張性・トラブル対応の手間まで差が出る。
DeepSeek-R1-Distill-Qwen-14BはQwen2.5-14Bをベースに、DeepSeek-R1が生成したサンプルで追加学習された14Bモデル。131,072トークンの設定上限を持つが、R1本体と同じ性能や必要VRAMを意味するものではない。
Devstral Small 2 24B InstructはMistral AIの24B・FP8モデルで、コーディングやツール利用、画像入力を想定している。モデルカードの256Kと設定ファイルの393,216が一致しないため、長いコンテキストは実行環境とリビジョンを確認して使いたい。
Gemma 4 12B ITは11.95B規模、最大262,144トークンのコンテキストを持つGoogleの指示調整モデル。テキスト・画像・音声・動画入力に対応する一方、ローカルで使える入力形式や必要メモリは実行環境ごとに確認が必要になる。
GGUFの読み込みエラーはVRAM不足とは限らない。ファイル破損・分割不足、モデルアーキテクチャ、ランタイムのバージョン、チャットテンプレート、mmprojなどを順番に切り分ける。
GGUFのQ4・Q5・Q6・Q8は、数字が大きいほど単純に優秀という関係ではない。まず実ファイル容量とメモリ条件を満たす候補を絞り、その中で量子化方式や作成条件まで見て選ぶ。