Local / Edge解説

TurboFieldfare 0.8.0とは?8GB MacでGemma 4 26Bを動かすSSDストリーミング推論を解説

TurboFieldfare 0.8.0 — 8GB Mac・SSDストリーミング推論
目次

TurboFieldfareは、Gemma 4 26B-A4BをApple Silicon Macで動かすためのSwift + Metal製実行環境だ。最大の特徴は、モデル全体を統合メモリへ常駐させず、MoEのルーティング対象のエキスパートを必要なときだけSSDから読み込むことにある。

公式READMEでは、テキストモデルの重みと4K KVキャッシュを合わせた常駐メモリを約2GBとしている。8GBのM2 MacBook Airも検証対象に含まれる。一方、テキストモデル自体はSSDへ約14.3GB保存するため、「26Bモデルそのものが2GBになる」わけではない。

2026年9月8日に公開された0.8.0では、Mac appにローカル会話履歴が加わった。以前より継続チャットに使いやすくなったが、実行環境の基本設計や自動応答長の自動調整は変更されていない。

8GB Macで26B MoEを試すための専用実行環境

TurboFieldfareが向くのは、手元の小容量MacでGemma 4 26B-A4Bを試したいケースだ。

条件 TurboFieldfareとの相性
8GB〜16GB級Apple Silicon Macをすでに持っている 試す価値が高い
Gemma 4 26B-A4Bを使いたい 主対象
モデルを頻繁に切り替えたい 向かない
GGUFやMLXの既存資産を幅広く使いたい 汎用実行環境向き
速度よりメモリ制約の突破を優先する 向く
画像入力も使いたい M2以降なら対応
音声 / 動画入力が必要 対象外

TurboFieldfareはLM Studioやllama.cppのような汎用モデル管理ツールではない。公式READMEでもMLXやllama.cppのラッパーではなく、Gemma 4 26B-A4Bへ強く最適化したモデル特化型実行環境として説明されている。

約2GBで動く仕組み

Gemma 4 26B-A4BはMoE構成で、1トークンの計算に全エキスパートを同時使用しない。TurboFieldfareはこの性質を使い、共有部分とKVキャッシュをメモリへ置きながら、ルーターが選んだルーティング対象のエキスパートをSSDから読み込む。

公式READMEでは、共有中核を約1.35GBとし、各層で必要なエキスパートを上限付きキャッシュとpreadで取得する設計を説明している。SSDをモデル重みの保存先だけでなく、推論中の重み保存領域としても利用する形だ。

そのため、必要な統合メモリを大きく下げられる一方、SSDの読み込み遅延や帯域が性能へ影響する。メモリ容量を速度とI/Oで補う設計と考えると分かりやすい。

「約2GB」は保存容量ではない

公式0.8.0 READMEの主要値は次の通り。

項目 公式READMEの値
テキストモデルストレージ 約14.3GB
任意の画像パック 約1.1GB
重み + 4K KVキャッシュ 約2GB
初回モデル転送 約15GB

約2GBは、実行環境中に常駐させる重みと4K KVキャッシュの目安だ。モデル本体は約14.3GBをSSDへ保存する。

macOSや他のアプリも統合メモリを使うため、空きメモリが2GBあれば必ず動作するという意味でもない。公式もモデルrun前にメモリ-重いなアプリを閉じ、memory_pressure -Qで余裕を確認するよう案内している。

作者測定では8GB M2で5.1〜6.3 tok/s

公式READMEに掲載された作者測定では、8GB M2 MacBook Airの生成処理が5.1〜6.3 tok/s、24GB M5 Proが31〜35 tok/sとなっている。

これは独自実測ではない。TurboFieldfare作者が公開している測定値で、プロンプト長さ、生成長、ページキャッシュ状態、ハードウェアによって処理性能は変化する。公式も性能上限ではなく参考例として扱っている。

8GB M2で5〜6 tok/sという値は、TurboFieldfareが小容量Macを高速ワークステーションへ変えるソフトウェアではないことも示している。価値の中心は、通常ならメモリ容量で候補外になりやすい26B級MoEを実行可能にする点にある。

必要環境

0.8.0 READMEが示す主要要件は以下の通り。

  • Apple Silicon Mac
  • 8GB RAM以上
  • macOS 26
  • Metal 4
  • Xcode 26
  • Swift 6.2以降
  • テキストモデル用に約14.3GB以上の空きストレージ
  • 初回インストール時のインターネット接続

パッケージはarm64専用で、古いmacOSやMetalバージョンは対象外だ。

テキストのみ推論はM1でも利用できる。画像入力に必要な画像入力エンコーダーはM2以降が条件となる。

0.8.0で会話履歴がローカル保存に対応

0.8.0の大きな変更はMac appの会話履歴だ。公式リリースでは、チャットをローカル保存し、サイドバーから検索、名前変更、削除、再開できるようになったと説明されている。

保存済みチャットは保存済みトークンを使って継続できる。別の履歴を閲覧しているだけなら現在の稼働中キャッシュ済みの会話は維持され、別チャットを実際に続けるとそのコンテキストへ置き換わる。New Chatでは新しい会話を開始する。

この更新によって、TurboFieldfareは「小容量Macで一度生成できるか試す実行環境」から、継続チャットを行うMac appとしても使いやすくなった。

ただし0.8.0はソースコードのみのリリースで、実行環境既定値と自動応答長の自動調整は変更されていない。基本的なメモリトレードオフは0.7.xから継続している。

画像入力は追加パックで対応

画像入力は約1.1GBの画像入力追加パックを別途インストールする方式だ。Mac app、CLI、ローカルサーバーから利用できる。

画像入力エンコーダーはM2以降が必要で、M1はテキストのみとなる。画像パックを入れなくてもテキスト実行環境はそのまま利用できる。音声と動画は現在の対応範囲外だ。

小容量Macではテキストモデルだけでもストレージとメモリに余裕を残した方がよく、画像入力を使う場合は追加パックと入力処理の負荷も考慮したい。

OpenAI互換サーバーもある

TurboFieldfareはネイティブMac appとCLIに加え、ループバックのOpenAI互換サーバーを提供する。

標準では127.0.0.1:8080/v1で待ち受けし、Chat生成API、ストリーミング、関数呼び出し、同一接頭辞の再利用を扱う。ツール呼び出しを実際に許可・実行する責任はクライアント側にある。

公式はループバック利用を前提としており、リモート認証やTLSを備えない。LANへそのまま公開するサーバーとして扱うべきではない。

汎用実行環境との違い

TurboFieldfareはメモリ節約の代わりに、モデルとプラットフォームを強く固定している。

比較軸 TurboFieldfare 汎用実行環境
主対象 Gemma 4 26B-A4B 多数モデル
重み保持 ルーティング対象のエキスパートをSSDからストリーム RAM / VRAM常駐が中心
形式 .gturbo GGUF / MLXなど
プラットフォーム Apple Silicon 実行環境ごとに異なる
強み 小さいメモリで大きなMoEを実行 モデル互換性と運用の幅

十分な統合メモリがあり、複数モデルを切り替えて使うなら、汎用実行環境の方が扱いやすい可能性が高い。8GB〜16GB級MacでGemma 4 26B-A4Bを試したい場合は、TurboFieldfareの設計が直接効いてくる。

SSD寿命より先に見るべき点

TurboFieldfareは推論中にエキスパート重みをSSDから繰り返し読む。大量のスワップ書き込みと同一視するのは正確ではない。

一方でストレージI/Oが性能へ影響することは避けられない。長時間・高頻度の運用では、統合メモリだけでなくSSD性能、ページキャッシュ状態、実際の生成処理速度を確認したい。

TurboFieldfareを試す価値がある人

最も相性が良いのは、8GB〜16GB級Apple Silicon Macをすでに所有し、追加ハードウェアを買う前にGemma 4 26B-A4Bを試したい人だ。

特に、MoEのエキスパートストリーミングを試したい、Gemma 4 26B-A4Bをテキストや画像で使いたい、Swift / Metalのオンデバイス推論実装に関心がある場合は明確な候補になる。

反対に、幅広いGGUFを切り替える、複数モデルを一つのUIで管理する、最高処理性能を優先する用途では、TurboFieldfareを汎用実行環境の代替として選ぶ理由は弱い。

0.8.0で会話履歴が加わったことで日常的なチャット用途は改善したが、TurboFieldfareの本質は変わっていない。少ない統合メモリとSSDストリーミングを交換条件にして、Gemma 4 26B-A4Bを動かす専用実行環境である。

まとめ

  • TurboFieldfareはGemma 4 26B-A4B向けのSwift + Metal製実行環境で、共有部分とKVキャッシュを常駐させ、必要なルーティング対象のエキスパートをSSDから読む
  • 公式READMEの目安ではテキストモデルの重みと4K KVキャッシュで約2GB、保存容量は約14.3GB。2GBはモデルファイルサイズではない
  • 作者測定では8GB M2 MacBook Airで5.1〜6.3 tok/s、24GB M5 Proで31〜35 tok/s。独自実測ではない
  • 0.8.0ではMac appにローカル会話履歴が加わり、保存したチャットの検索・再開・名前変更・削除が可能になった
  • メモリ節約と引き換えにSSD I/O、Apple Silicon専用、Gemma 4 26B-A4B中心という制約があるため、汎用実行環境の置き換えではない
同じテーマから

サイト内検索