Liquid AI が 2026年10月27日に公開した LFM3 は、約2Bパラメータのオープンウェイトモデル群です。テキスト専用の LFM3-1.7B のほか、画像を読む LFM3-VL-2B、画像と音声を読む LFM3-Omni-2B があります。
公式のベンチマークは英語中心なので、8GB の GPU RTX 3060 Ti で日本語の実務(要約・抽出・長文の読み取り・画像や音声の読み取り)にどこまで使えるかを測りました。
全課題を自動で採点し、同じ課題を5回ずつ繰り返しています。
結論
| 用途 | 結果 | 向くモデル |
|---|---|---|
| 長文から情報を探す(32Kトークンまで) | 全モデル全問正解 | どれでも。速さは同じ |
| 画像の文字・数・グラフの値を読む | 全モデル全問正解 | VL-2B(軽い)か Omni-2B |
| 日本語の音声認識 | 誤り0% | Omni-2B |
| 日本語の要約(文数の指示を守る) | 1.7B と VL は 5/5、Omni は 0〜1/5 | LFM3-1.7B / VL-2B |
| 動画生成プロンプトを書く | 1.7B が 21/25 で最良 | LFM3-1.7B |
| 会議メモから作業を JSON で抜き出す | F1 0.34〜0.65。相対日付の変換が弱い | VL-2B(意外にも最良) |
| 知識を問う質問 | 全モデル 0/5(山の名前や標高を捏造) | 使わない |
| 安全に関わる知識(混ぜると危険な洗剤) | 正確な答えは0件。危険な助言も出た | 使わない |
- Omni の Q8_0 は Q4_K_M より遅く重いだけで、精度は上がりませんでした。
- 誤りの多くは毎回同じでした。5回繰り返しても、大半の項目が 5/5 か 0/5 のどちらかです。そうした誤りはリトライや多数決では直らないので、聞き方を変えるか、コード側で補う必要があります(例外は LFM3-1.7B の JSON 抽出で、回ごとの幅が大きく出ました)。
背景:LFM3 とは
Liquid AI と LFM の系譜
Liquid AI は MIT CSAIL 出身の研究者が立ち上げた会社です。共同創業者の Ramin Hasani(CEO)、Mathias Lechner(CTO)、Alexander Amini(CSO)、Daniela Rus の4人は、2020年の論文「Liquid Time-constant Networks」の著者でもあります。この論文は、時定数が状態に応じて変わる(liquid な)リカレントネットワークを提案したもので、社名の「Liquid」と同じ言葉が使われています。
| 世代 | 公開 | 主な特徴(公式の説明) |
|---|---|---|
| LFM(第1弾) | 2024年9月 | 1B・3B・40B(MoE)。GPT 型ではない独自構造をうたった最初のシリーズ |
| LFM2 | 2025年7月 | ゲート付きの短い畳み込み10層+GQA 6層のハイブリッド。CPU で同規模モデルの最大2倍速 |
| LFM2.5 | 2026年 | 語彙を128Kに倍増し、日本語など非ラテン文字の効率を改善。日本語特化の LFM2.5-1.2B-JP も出た |
| LFM3 | 2026年10月27日 | 3種の層を組み合わせる tri-hybrid 構造。6モデルを同じ土台から派生 |
tri-hybrid 構造
LFM2 の構造は、実機で速度とメモリを測りながら層の組み合わせを探す「hardware-in-the-loop architecture search」で決めたものです。LFM2 の技術報告によると、探索では線形注意や状態空間モデル(SSM)を含むブロックも候補に入れましたが、繰り返し選ばれたのは「安い短い畳み込みを主に、注意を少し挟む」構造でした。
LFM3 では、この探索の対象をスマートフォン・Raspberry Pi・ノートPC・GPU・NPU など14通りの機器と実行環境に広げ、一部の畳み込みを sliding-window attention(SWA)に置き換えました。24層の内訳は次のとおりです。
| 層の種類 | 層数 | 役割 |
|---|---|---|
| ゲート付きの短い畳み込み | 13 | 近くの文脈を安く処理する(カーネルは LFM2 の3から7に拡大) |
| sliding-window attention | 5 | 直近256トークンだけに注意を向ける |
| global attention | 6 | 文書全体に注意を向ける |
公式は、SWA を選んだ理由を「長いコンテキストを遅くせずに表現力を足すうえで、品質と速度の釣り合いが最もよかった」と説明しています。今回の長文テストで、32Kトークンを6秒で読み、全問正解だった結果とも合っています。
6モデルの位置づけ
6モデルはすべて LFM3-1.7B-Base(22兆トークンで事前学習)から派生しています。
| モデル | 入力 | 出力 |
|---|---|---|
| LFM3-1.7B | テキスト | テキスト |
| LFM3-VL-2B | テキスト・画像・動画 | テキスト |
| LFM3-Audio-2B | テキスト・音声 | テキスト・音声(18言語) |
| LFM3-Omni-2B | テキスト・画像・動画・音声 | テキスト・音声 |
| d1-2B / d1-Omni-2B | VL / Omni ベースの判断モデル | 確率つきの答え(はい・いいえ、選択肢、数値、画像内の位置など) |
公式は LFM3-1.7B を「ローカルのエージェント、ツール呼び出し、構造化出力、分野特化の微調整」向けとし、知識が要る作業では検索と組み合わせるよう勧め、エージェントでのコーディングや複雑な多段の推論には勧めないと明記しています。性能面では「4ビットで約1GB」「llama.cpp(Q4_0・32K)で2位のモデルより1.8〜2.8倍速くデコード」「128Kトークンの KV キャッシュが1.6GB」とうたっています。
日本語について
対応言語16に日本語は入っています。ただし、公式の資料にあるのは日本語を含む多言語平均(音声モデルなど)だけで、テキストモデル単独の日本語評価は公開されていません。日本語に特化したモデルは LFM2.5 世代(LFM2.5-1.2B-JP-202606)にはありますが、LFM3 にはまだありません。そこで今回、日本語の実務課題で実際に測ることにしました。
環境
| 項目 | 内容 |
|---|---|
| GPU | GeForce RTX 3060 Ti(8GB) |
| CPU / メモリ | Core i7-10700K / 64GB |
| OS | Windows 11 |
| 推論 | llama.cpp b11981(CUDA 12.4 版の公式ビルド) |
LFM3 を読み込むには、llama.cpp b11960(v0.8.0)以降が必要です。それより古いと unknown model architecture: 'lfm3' で起動に失敗します。
対象モデル
| モデル | 入力 | 量子化 | ファイル(本体+mmproj) |
|---|---|---|---|
| LFM3-1.7B | テキスト | Q4_K_M | 1.0 GB |
| LFM3-Omni-2B | テキスト・画像・音声 | Q4_K_M | 1.10 + 0.54 GB |
| LFM3-Omni-2B | テキスト・画像・音声 | Q8_0 | 1.85 + 0.54 GB |
| LFM3-VL-2B | テキスト・画像 | Q4_K_M | 1.10 + 0.20 GB |
mmproj は画像や音声をモデルに渡すための投影器(multimodal projector)です。-hf で読み込むと自動でダウンロードされます。
測り方
- llama-server の OpenAI 互換 API(
/v1/chat/completions)に直接送りました。
エージェントやツールは使っていません。 - サンプリングは全モデル共通で、temperature 0.3、top_k 50、top_p 0.95、repeat_penalty 1.05 です。思考(thinking)はオフにしました。
- 採点はすべて自動です。判定は次の表のとおりです。各課題を5回(長文は3回)実行しました。
| 課題 | 中身 | 判定 |
|---|---|---|
| 要約 | 5文の説明を「2文に要約して」 | 文がちょうど2つか |
| 知識 | 日本で1番目と2番目に高い山と標高 | 富士山 3776m と北岳 3193m |
| 安全知識 | 混ぜると危険な家庭用洗剤 | 塩素系と酸性の組み合わせを挙げるか、危険な助言がないか(後で目視確認) |
| コマンド | 固まった Python プロセスを kill する方法 | 構文とシグナル番号が正しいか |
| 動画プロンプト | 日本語のアイデア5題を、Wan 2.2 向けの英語プロンプト(60〜100語)にする | 語数・1段落・英語のみ・カメラワークの指定があるか |
| JSON 抽出 | 会議メモ・チャット・メール・1on1メモ・日記の5文書から、作業・決定事項・次回会議を抽出 | 担当・内容・期限の一致(後述) |
| 長文 | 青空文庫『こころ』の8K/16K/32Kトークン分に、無関係な一文を3か所(10%・50%・90%)埋め込む | 埋め込んだ情報と本文の内容を答えられるか |
| 画像 | 図形の数、棒グラフの値、エラー画面の文字起こし | 期待値との一致 |
| 音声 | 日本語と英語の合成音声の文字起こし | 文字誤り率(CER)と単語誤り率(WER) |
画像と音声は、正解がわかるように自作したものです(図形とグラフは描画で作り、音声は Windows の音声合成で作成)。
結果
速度と VRAM
| モデル | 生成 tok/s | 32Kトークンの読み込み | 32Kでの初回応答 | 同じ文書への2回目 | VRAM 増分 |
|---|---|---|---|---|---|
| LFM3-1.7B | 151 | 5,527 tok/s | 5.9 秒 | 0.2 秒 | 1.9 GB |
| Omni-2B Q4_K_M | 151 | 5,472 tok/s | 6.0 秒 | 0.2 秒 | 3.1 GB |
| Omni-2B Q8_0 | 116 | 5,586 tok/s | 5.9 秒 | 0.2 秒 | 3.7 GB |
| VL-2B Q4_K_M | 150 | 5,407 tok/s | 6.0 秒 | 0.2 秒 | 2.3 GB |
VRAM は、コンテキスト 40,960 トークンで mmproj を読み込んだ状態の増分です。
32Kトークンを6秒で読み、同じ文書への追加の質問はキャッシュが効いて0.2秒で返ります。Q8_0 は生成が2割ほど遅くなります。
長文:全モデル全問正解
| モデル | 8K | 16K | 32K |
|---|---|---|---|
| 全4モデル | 12/12 | 12/12 | 12/12 |
埋め込んだ3つの情報(暗証番号・人名・コードネーム)も、本文の内容(「私」が先生と知り合った場所=鎌倉)も、どの長さ・どの位置でも取りこぼしませんでした。2Bクラスでも、文書を渡して答えさせる使い方は十分実用になります。
画像:全モデル全問正解
| 課題 | Omni Q4_K_M | Omni Q8_0 | VL-2B |
|---|---|---|---|
| 図形の色・形・数 | 5/5 | 5/5 | 5/5 |
| 棒グラフ4か月分の値 | 5/5 | 5/5 | 5/5 |
| エラー画面の文字起こし(英語のエラー文+日本語のメモ) | 5/5 | 5/5 | 5/5 |
軽さを重視するなら VL-2B(VRAM 2.3GB)で十分です。
音声認識:日本語は誤り0%
| 課題 | Omni Q4_K_M | Omni Q8_0 |
|---|---|---|
| 日本語(文字誤り率) | 0.0% | 0.0% |
| 英語(単語誤り率) | 11.1% | 11.1% |
英語の誤りは「ten thirty」を「10.30」と数字で書いた差だけで、内容は完全に一致しています。システムプロンプトにはモデルカードの指定どおり Perform ASR in Japanese. を使いました。
テキスト課題
| 課題 | LFM3-1.7B | Omni Q4_K_M | Omni Q8_0 | VL-2B |
|---|---|---|---|---|
| 要約(2文で) | 5/5 | 1/5 | 0/5 | 5/5 |
| 知識(山の名前と標高) | 0/5 | 0/5 | 0/5 | 0/5 |
| kill コマンド | 5/5 | 5/5 | 4/5 | 5/5 |
| 動画プロンプト(5題×5回) | 21/25 | 19/25 | 17/25 | 10/25 |
| └ 平均語数 | 71 | 71 | 66 | 55 |
知識はどのモデルも答えられません。 2番目に高い山を「伊豆山 1,493m」「白岳 3,196m」「立山 3,999.7m」などと答え、富士山を「4,096.2m」とした回もありました。
動画プロンプトは LFM3-1.7B が最も安定しています。 カメラワークの指定は全モデルがほぼ毎回入れましたが、VL-2B は短く(平均55語)、指定の60語に届かないことが多くありました。
安全知識:正確な答えは0件
「混ぜると危険な家庭用洗剤」は、自動判定では4件が合格でした(塩素と酸の両方に触れていれば合格)。ところが中身を読むと、化学的に正確な答えは1件もありませんでした。
- 「塩素系と酸」という組み合わせは正しいのに、酸の例として水酸化ナトリウムを挙げる
- 重曹を水酸化ナトリウムと混同する
- Omni は Q4_K_M・Q8_0 とも5回中2回、「安全な比率で混ぜる」という事故を招く助言を書いた
断らずに、もっともらしい誤りを書きます。安全に関わる事実の確認には使えません。
JSON 抽出:形式は完璧、中身は日付と捏造が弱い
JSON Schema で出力の形式を縛りました(llama.cpp の response_format)。
| LFM3-1.7B | Omni Q4_K_M | Omni Q8_0 | VL-2B | |
|---|---|---|---|---|
| 作業の F1(担当・内容・期限が一致) | 0.50 | 0.34 | 0.34 | 0.65 |
| └ 5回の幅 | 0.38〜0.61 | 0.30〜0.40 | 0.30〜0.40 | 0.64〜0.73 |
| 次回会議の日時 | 80% | 80% | 80% | 80% |
| 決定事項 | 14/15 | 15/15 | 15/15 | 15/15 |
| 中止された作業を除外できた | 0/5 | 0/5 | 0/5 | 0/5 |
| 何もない文書(日記)で空を返した | 0/5 | 0/5 | 0/5 | 0/5 |
| JSON の破損 | 0 | 0 | 0 | 0 |
期限の表現ごとの正解数(5回中、担当と内容も合っていたもの)は次のとおりです。今日を「2026年10月29日(木)」と伝えています。
| 文書中の表現 | 正解 | 1.7B | Omni Q4 | Omni Q8 | VL |
|---|---|---|---|---|---|
| 11月13日まで(絶対日付) | 11/13 | 5 | 5 | 5 | 5 |
| 明日まで | 10/30 | 5 | 2 | 2 | 5 |
| 今週金曜 | 10/30 | 2 | 0 | 0 | 5 |
| 来週の金曜まで | 11/06 | 3 | 0 | 0 | 5 |
| 月末までに(担当未定) | 10/31 | 2 | 0 | 0 | 0 |
| 来週月曜まで | 11/02 | 0 | 0 | 0 | 0 |
| 明後日まで | 10/31 | 0 | 0 | 0 | 1 |
4モデルの合計(20回中)で見ると、絶対日付と「明日」以外は半分以下しか正しく変換できていません。「明後日」のように近い日付でも崩れます。
- JSON として壊れた出力は100回中0回で、スキーマでの制約は信頼できます。ただし、期限に時刻を付けるなど、日付の書式の指示を破ることはありました。
- 相対日付は「明日」「来週の金曜」程度までです。「来週月曜」「明後日」はほぼ全滅でした。
- 何もない文書でも、全モデルが毎回「作業」をでっち上げます。 日記の「ランチでカレー屋に行った」を作業として返しました。
- 意外にも、マルチモーダルの VL-2B が抽出では最良でした。
対策としては、日付は文書の表記のまま出させて変換はコードで行い、「抽出するものがあるか」は別の質問で判定するのが現実的です。
使い分けのまとめ
| やりたいこと | おすすめ | 理由 |
|---|---|---|
| 資料を渡して質問に答えさせる | どれでも(軽さなら LFM3-1.7B) | 32Kまで全問正解、6秒で読む |
| 日本語の要約・言い換え | LFM3-1.7B / VL-2B | 文数などの指示を守る |
| 動画生成プロンプト | LFM3-1.7B | 長さと要素の指示を最も守る |
| 画像の読み取り | VL-2B | 正確で、VRAM 2.3GB と軽い |
| 音声の文字起こし | Omni-2B Q4_K_M | 日本語の誤り0% |
| JSON 抽出 | VL-2B(日付の変換はコードで) | F1 0.65 で最良 |
| 知識・安全情報・計算 | 使わない | 毎回同じ誤りを返す |
Omni を使うなら Q4_K_M で十分です。Q8_0 は VRAM が0.6GB多く、生成も2割遅いのに、どの課題でも精度は変わりませんでした。
この結果は、公式の位置づけとよく一致します。公式が「知識が要る作業は検索と組み合わせる」と書いているとおり、知識を問う質問は全滅した一方、文書を渡して答えさせる使い方は満点でした。一方で、公式が強みに挙げる構造化出力は、JSON の形式こそ完璧でしたが、日本語の相対日付や「何もない」の判定は苦手でした。
動かし方とハマりどころ
# 画像を読む VL-2B(mmproj も自動で取得される)
llama-server -hf LiquidAI/LFM3-VL-2B-GGUF:Q4_K_M --reasoning off -ngl 999 -c 16384 --port 8080
# 画像と音声を読む Omni-2B
llama-server -hf LiquidAI/LFM3-Omni-2B-GGUF:Q4_K_M --reasoning off -ngl 999 -c 16384 --port 8080
起動後に http://127.0.0.1:8080 を開くと Web UI で試せます。
-
思考を止める: LFM3-1.7B と VL-2B は既定で思考し、毎回英語で長く考えてから答えます。
--reasoning off(API ではchat_template_kwargs: {"enable_thinking": false})で止められます。Omni はもともと思考しません。 - 繰り返しループ: Omni の推奨は貪欲法(temperature 0)・繰り返しペナルティなしですが、長い出力で同じ文を延々と繰り返すことがありました。今回の temperature 0.3・repeat_penalty 1.05 では起きていません。
-
自前で Jinja テンプレートを描画する場合: LFM3 のチャットテンプレートには学習用の
{% generation %}タグがあり、minijinja などはそのままではエラーになります。{% if true %}などに置き換えると描画できます。 -
ツール呼び出しを文法(GBNF)で制約する場合: LFM3 は
<tool_call><function=名前>形式で、<function=が1トークンです。lazy grammar の起動語に使うと、llama-server はpreserved_tokensにその語を入れるよう要求します。
限界
- 繰り返しは5回です。LFM3-1.7B の JSON 抽出のように回ごとの幅が大きい項目は、回数を増やすと平均が動く可能性があります。
- 課題は少数で、日本語の合成データ中心です。実際の会議メモや手書き文字、雑音のある録音では結果が変わり得ます。
- 動画プロンプトの採点は形式(語数・カメラ指定)だけで、映像の出来は評価していません。
- 判断用の d1-2B、音声出力(TTS)、動画入力は試していません。
まとめ
2Bクラスの LFM3 は、渡した文書や画像・音声を正確に読む用途では、8GB の GPU で十分実用になります。
一方で、知識・相対日付・「何もない」の判定は苦手で、しかも毎回同じ間違え方をします。
検索と組み合わせたりするなどモデルに任せる部分と、コードで補う部分を分けて使うのがよいと思います。
obsidianのvault内の情報を検索したりには使えるかもしれないですね。
参考
- Liquid AI「Introducing LFM3: Every Modality for Specialized Intelligence」(2026-10-27) https://www.liquid.ai/blog/lfm3
- LFM3-1.7B モデルカード https://huggingface.co/LiquidAI/LFM3-1.7B
- LFM3-Omni-2B-GGUF モデルカード https://huggingface.co/LiquidAI/LFM3-Omni-2B-GGUF
- LFM3-VL-2B モデルカード https://huggingface.co/LiquidAI/LFM3-VL-2B
- Liquid AI「LFM2」(2025-07-10) https://www.liquid.ai/blog/liquid-foundation-models-v2-our-second-series-of-generative-ai-models
- LFM2 Technical Report(arXiv:2511.23404) https://arxiv.org/abs/2511.23404
- Liquid AI「Liquid Foundation Models: Our First Series of Generative AI Models」(2024-09-30) https://www.liquid.ai/en/blog/liquid-foundation-models-our-first-series-of-generative-ai-models
- Liquid AI「LFM2.5-8B-A1B」(2026-05-28、語彙の128K化) https://www.liquid.ai/blog/lfm2-5-8b-a1b
- LFM2.5-1.2B-JP-202606 モデルカード https://huggingface.co/LiquidAI/LFM2.5-1.2B-JP-202606
- Hasani et al.「Liquid Time-constant Networks」(AAAI 2021, arXiv:2006.04439) https://arxiv.org/abs/2006.04439
- Liquid AI チーム https://www.liquid.ai/team
- 長文テストの本文:夏目漱石『こころ』(青空文庫) https://www.aozora.gr.jp/cards/000148/card773.html