DeepSeek-V4-Flash-Vision-Expをローカルで動かすには？GGUF・必要メモリ・llama.cpp対応を整理
305Bの巨大MoE＋画像入力モデルDeepSeek-V4-Flash-Vision-Expをローカルで扱う前に、公式仕様、GGUF、llama.cppの画像入力対応、再変換が必要な理由、RAMとVRAMの考え方を整理します。
すべての記事 — 3ページ目
新着順に読む、local-genの記事。全268件。
Hugging Face TransformersのCVE-2026-80047とは？影響範囲とローカルAI利用者の対処を整理
Transformers 4.49.0〜5.8.1で、trust_remote_codeの確認前にリモート Python ファイルがローカルキャッシュへ書き込まれるCVE-2026-80047が公開されました。影響する処理、誤解しやすい点、現時点の回避策をCERT/CCとHugging Face公式情報から整理します。
FreeTokenとは？巨大MoEをローカル実行する仕組み・必要メモリ・llama.cppとの違いを整理
FreeTokenはGPU・CPU・RAMをまたいで巨大MoEをローカル実行する端末向けネイティブ推論エンジンです。8GB GPUから284B/753B級までの公式・論文上の実行例、VRAMだけで判断できない理由、対応モデル、llama.cppとの違い、導入判断を整理します。
DGX SparkとRTX 5090はどちらを選ぶ？ローカルLLM向けに128GB統合メモリと32GB VRAMを比較
NVIDIA DGX Spark（GB10）とGeForce RTX 5090をローカルLLM用途で比較。128GB統合メモリと32GB GDDR7の違い、モデル容量・帯域・Arm環境・画像生成・購入判断を整理します。
Comfy MCPとは？ローカルComfyUIをAIエージェントから操作する仕組み・導入・注意点
Comfy Org公式のComfy MCPローカル版について、Claude・Cursor・Codexなどから自分のComfyUI、GPU、モデル、カスタムノードを扱う仕組み、導入手順、ローカル優先と完全ローカルの違い、安全上の注意点を整理します。
Hugging FaceのWebGPU Kernelsとは？ブラウザ内ローカルAIは何が速くなる？
Hugging Faceが公開した207個のWebGPU カーネルと@huggingface/kernels、Fleetを一次情報から整理。Transformers.jsとの違い、ブラウザ内AIで速くなる範囲、ベンチマークの読み方、現時点の注意点を解説します。
Wan Animate 2をComfyUIでローカル実行する前に｜用途・必要環境・注意点を整理
Wan Animate 2のComfyUI公式対応、参照キャラクターと動きの参照動画の役割、WanAnimate2Cache、公式の複数-A800構成を確認し、一般PCで試す前に知るべき条件を整理します。
ComfyUIのDynamic VRAMとは？ROCm 7.14でAMD GPUは何が変わる？
ComfyUI v0.34.0でROCm 7.14以降ではDynamic VRAMが既定で有効になりました。VRAM不足をなくす機能ではない点、RAM・速度とのトレードオフ、Radeonで確認すべき条件を整理します。
LM Studio Bionicとは？ローカルLLM エージェント・スキル・Auto Reviewを整理
LM Studio BionicでローカルLLMをエージェントとして使うときに、通常のLM Studioとの違い、スキル、Auto Review、シェル実行の安全性、ローカルとクラウドの境界を公式情報から整理します。
LTX-2.5はローカルで動く？ 22B・必要VRAM・LTX Desktop・ComfyUIを整理
LTX-2.5をローカルPCで使う前に、22Bモデルの構成、LTX DesktopのローカルFast、ComfyUI、量子化、16GB・24GB・32GB GPUの考え方を公式情報から整理します。
Nemotron 3.5 LightningはRTX 5090で動く？ 30B-A3B・NVFP4・1M コンテキストを整理
NVIDIA Nemotron 3.5 Lightning 30B-A3Bは30B 総 / 3B 有効のエージェント向けMoE。公式NVFP4版は約22GBまで圧縮され、RTX 5090も対応ハードウェアに明記されています。32GB GPUで使うときの注意点、1M コンテキスト、BF16との違いを整理します。
Spark X2.5-4B/1.7Bはローカルで動く？ 1Mコンテキストとllama.cpp対応状況を確認
Spark X2.5-4B/1.7Bは、XHTokenが公開したオンデバイス志向の小型LLM。最大1Mトークンのネイティブコンテキストとエージェント用途を掲げる一方、2026年9月2日時点の上流のllama.cpp対応はまだドラフトPR段階。GGUF・Ollama・LM Studioを試す前に確認したい点を整理する。
GLM-5.3-Flashはローカルで動く？ 320B MoE・18B 有効・必要環境を整理
GLM-5.3-Flashは320B総パラメータ・18B 有効のマルチモーダルMoE。オープン重みで複数のローカル実行経路が用意されていますが、18B 有効だから18B級GPUで動くわけではありません。一般PCで試す前に見るべきポイントを整理します。
MiniMax H3はローカルで動く？ComfyUI・必要VRAM・RTX 3060の条件を整理
MiniMax H3の33B オープン重みをローカルPCで使うときの条件を、公式情報を基に整理。ComfyUI 0.30.0、12GB VRAM級のRTX 3060で動く理由、42.5GBの最適化済み構成、FL2VA/Ref2VA、ライセンスの注意点を解説します。
LFM2.5-2.6Bはローカルエージェント向き？ CPU・WebGPU・Q4で動かす判断ポイント
Liquid AIのLFM2.5-2.6Bは2.69B規模ながら、ツール利用やエージェント向け処理を狙ったオンデバイスモデルです。GGUF、ONNX/WebGPU、MLX、QAD Q4_0まで揃う現状を、メモリ・用途・注意点から整理します。
Qwen3.8-Flash-Nextはローカルで動く？ RTX 5090・GGUF・必要メモリの考え方
Qwen3.8-Flash-Nextは125B本体＋51B N-gram埋め込み、1トークンあたり有効パラメータ6BのマルチモーダルMoE。llama.cppはテキスト/画像入力に対応していますが、有効パラメータ6Bだから6B級GPUで動くわけではありません。RTX 5090 32GBで検討するときのメモリと実行経路を整理します。
AI嫁が圏外になったら？ フィジカルAI時代、ローカルAIは「個体の脳」になる
AIが身体を持つ未来では、通信できない洞窟、災害現場、自動運転、宇宙、軍事で「その場で考える力」が性能になる。AI嫁を思考実験の案内役に、クラウドとローカルの役割がどう変わるかを考える。
2026年に考える「機械知能」の未来｜今日のクラウドAGIは、いつか手元に降りてくるのか
2026年のAGI論を入口に、京とRTX 5090、Chinchilla、量子化、MoE、Retrieval、ローカルAgentの進化から、今日のクラウド知能が将来どこまで個人の手元へ降り得るのかを考える。