LFM2.5-2.6Bとは？ 128Kコンテキストと公式配布形式を確認

このモデルは何か

LFM2.5-2.6Bは、Liquid AIが公開する追加学習済みの小型モデルだ。名称は2.6Bだが、モデルカードでは総パラメータ数2.69Bと記載されている。アーキテクチャはLfm2ForCausalLM、最大コンテキスト長は131,072トークン、ライセンスはLFM-1.0。

ベースモデルは別リポジトリのLiquidAI/LFM2.5-2.6B-Baseとして公開されている。LFM2.5-2.6B本体はそのベースモデルとは別の追加学習後のモデルなので、Base版と同じものとして扱うべきではない。

Liquid AIは日本語を含む多言語対応を記載し、端末上の実行やエージェント用途を想定したモデルとして紹介している。日本語が対応言語に含まれることは確認できるが、日本語での回答品質そのものを示す評価ではない。

配布経路も比較的多い。公式カードではsafetensorsに加え、GGUF、ONNX、MLXが案内されているため、使う環境に合わせて形式を選びやすい。

2.6B級という小ささは、ローカルで試す候補として扱いやすい理由になる。ただし、小型だからどのPCでも快適に動くとは限らない。配布形式、量子化、コンテキスト長、実行環境によって必要メモリと速度は変わる。

最大131,072トークンというコンテキストも、常に最大まで使う必要があるわけではない。長いコンテキストほどKVキャッシュなどの追加メモリが増えるため、普段の用途に必要な長さから始める方が現実的だ。

GGUFを使うなら、その配布物を読み込める実行環境と量子化を確認する。MLXならApple Silicon向け、ONNXなら対応する実行環境といったように、形式が公開されていることと任意のアプリでそのまま使えることは別の条件になる。

会話や指示追従に使いたい場合は、選んだ配布物のチャットテンプレートや推奨プロンプト形式も確認したい。LFM2.5-2.6Bが追加学習済みモデルであることだけから、どのチャットUIでも同じ挙動になるとは言えない。

必要VRAMやRAMについて、すべての実行環境へ当てはめられる一つの数字は確認できていない。モデルファイルの容量をそのまま必要メモリと見なさず、使う形式とコンテキストで実際の使用量を見る必要がある。

LFM2.5-2.6Bは、大型モデルより軽い候補を探しており、GGUFやMLXなど複数の公式配布経路から選びたい人にとって試しやすいモデルだ。日本語が対応言語として明記されている点も、日本語用途で候補へ入れる理由にはなる。

一方、Liquid AIが示すオンデバイス用途やエージェント用途を、そのまま任意の端末での速度や品質へ置き換えることはできない。日本語品質、実行環境別の速度、実行時メモリも個別に確認が必要だ。

また、LFM2.5-2.6B本体と別のBaseモデルを混同しないことも重要になる。会話や指示追従が目的なら、使う配布物がどのモデルを元にしているかを確認したい。

小型モデルをローカルで常用したいなら、まず短い日本語タスクで試し、必要なコンテキストまで広げるのがよい。配布形式を選ぶ段階では、GGUFモデルをダウンロードする前に確認する5項目も合わせて確認できる。