0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

LFM3(2Bクラス)を RTX 3060 Ti で日本語の実務に使えるか試した

0
Last updated at Posted at 2026-10-29

Liquid AI が 2026年10月27日に公開した LFM3 は、約2Bパラメータのオープンウェイトモデル群です。テキスト専用の LFM3-1.7B のほか、画像を読む LFM3-VL-2B、画像と音声を読む LFM3-Omni-2B があります。

公式のベンチマークは英語中心なので、8GB の GPU RTX 3060 Ti で日本語の実務(要約・抽出・長文の読み取り・画像や音声の読み取り)にどこまで使えるかを測りました。
全課題を自動で採点し、同じ課題を5回ずつ繰り返しています。

結論

用途 結果 向くモデル
長文から情報を探す(32Kトークンまで) 全モデル全問正解 どれでも。速さは同じ
画像の文字・数・グラフの値を読む 全モデル全問正解 VL-2B(軽い)か Omni-2B
日本語の音声認識 誤り0% Omni-2B
日本語の要約(文数の指示を守る) 1.7B と VL は 5/5、Omni は 0〜1/5 LFM3-1.7B / VL-2B
動画生成プロンプトを書く 1.7B が 21/25 で最良 LFM3-1.7B
会議メモから作業を JSON で抜き出す F1 0.34〜0.65。相対日付の変換が弱い VL-2B(意外にも最良)
知識を問う質問 全モデル 0/5(山の名前や標高を捏造) 使わない
安全に関わる知識(混ぜると危険な洗剤) 正確な答えは0件。危険な助言も出た 使わない
  • Omni の Q8_0 は Q4_K_M より遅く重いだけで、精度は上がりませんでした。
  • 誤りの多くは毎回同じでした。5回繰り返しても、大半の項目が 5/5 か 0/5 のどちらかです。そうした誤りはリトライや多数決では直らないので、聞き方を変えるか、コード側で補う必要があります(例外は LFM3-1.7B の JSON 抽出で、回ごとの幅が大きく出ました)。

背景:LFM3 とは

Liquid AI と LFM の系譜

Liquid AI は MIT CSAIL 出身の研究者が立ち上げた会社です。共同創業者の Ramin Hasani(CEO)、Mathias Lechner(CTO)、Alexander Amini(CSO)、Daniela Rus の4人は、2020年の論文「Liquid Time-constant Networks」の著者でもあります。この論文は、時定数が状態に応じて変わる(liquid な)リカレントネットワークを提案したもので、社名の「Liquid」と同じ言葉が使われています。

世代 公開 主な特徴(公式の説明)
LFM(第1弾) 2024年9月 1B・3B・40B(MoE)。GPT 型ではない独自構造をうたった最初のシリーズ
LFM2 2025年7月 ゲート付きの短い畳み込み10層+GQA 6層のハイブリッド。CPU で同規模モデルの最大2倍速
LFM2.5 2026年 語彙を128Kに倍増し、日本語など非ラテン文字の効率を改善。日本語特化の LFM2.5-1.2B-JP も出た
LFM3 2026年10月27日 3種の層を組み合わせる tri-hybrid 構造。6モデルを同じ土台から派生

tri-hybrid 構造

LFM2 の構造は、実機で速度とメモリを測りながら層の組み合わせを探す「hardware-in-the-loop architecture search」で決めたものです。LFM2 の技術報告によると、探索では線形注意や状態空間モデル(SSM)を含むブロックも候補に入れましたが、繰り返し選ばれたのは「安い短い畳み込みを主に、注意を少し挟む」構造でした。

LFM3 では、この探索の対象をスマートフォン・Raspberry Pi・ノートPC・GPU・NPU など14通りの機器と実行環境に広げ、一部の畳み込みを sliding-window attention(SWA)に置き換えました。24層の内訳は次のとおりです。

層の種類 層数 役割
ゲート付きの短い畳み込み 13 近くの文脈を安く処理する(カーネルは LFM2 の3から7に拡大)
sliding-window attention 5 直近256トークンだけに注意を向ける
global attention 6 文書全体に注意を向ける

公式は、SWA を選んだ理由を「長いコンテキストを遅くせずに表現力を足すうえで、品質と速度の釣り合いが最もよかった」と説明しています。今回の長文テストで、32Kトークンを6秒で読み、全問正解だった結果とも合っています。

6モデルの位置づけ

6モデルはすべて LFM3-1.7B-Base(22兆トークンで事前学習)から派生しています。

モデル 入力 出力
LFM3-1.7B テキスト テキスト
LFM3-VL-2B テキスト・画像・動画 テキスト
LFM3-Audio-2B テキスト・音声 テキスト・音声(18言語)
LFM3-Omni-2B テキスト・画像・動画・音声 テキスト・音声
d1-2B / d1-Omni-2B VL / Omni ベースの判断モデル 確率つきの答え(はい・いいえ、選択肢、数値、画像内の位置など)

公式は LFM3-1.7B を「ローカルのエージェント、ツール呼び出し、構造化出力、分野特化の微調整」向けとし、知識が要る作業では検索と組み合わせるよう勧め、エージェントでのコーディングや複雑な多段の推論には勧めないと明記しています。性能面では「4ビットで約1GB」「llama.cpp(Q4_0・32K)で2位のモデルより1.8〜2.8倍速くデコード」「128Kトークンの KV キャッシュが1.6GB」とうたっています。

日本語について

対応言語16に日本語は入っています。ただし、公式の資料にあるのは日本語を含む多言語平均(音声モデルなど)だけで、テキストモデル単独の日本語評価は公開されていません。日本語に特化したモデルは LFM2.5 世代(LFM2.5-1.2B-JP-202606)にはありますが、LFM3 にはまだありません。そこで今回、日本語の実務課題で実際に測ることにしました。

環境

項目 内容
GPU GeForce RTX 3060 Ti(8GB)
CPU / メモリ Core i7-10700K / 64GB
OS Windows 11
推論 llama.cpp b11981(CUDA 12.4 版の公式ビルド)

LFM3 を読み込むには、llama.cpp b11960(v0.8.0)以降が必要です。それより古いと unknown model architecture: 'lfm3' で起動に失敗します。

対象モデル

モデル 入力 量子化 ファイル(本体+mmproj)
LFM3-1.7B テキスト Q4_K_M 1.0 GB
LFM3-Omni-2B テキスト・画像・音声 Q4_K_M 1.10 + 0.54 GB
LFM3-Omni-2B テキスト・画像・音声 Q8_0 1.85 + 0.54 GB
LFM3-VL-2B テキスト・画像 Q4_K_M 1.10 + 0.20 GB

mmproj は画像や音声をモデルに渡すための投影器(multimodal projector)です。-hf で読み込むと自動でダウンロードされます。

測り方

  • llama-server の OpenAI 互換 API(/v1/chat/completions)に直接送りました。
    エージェントやツールは使っていません。
  • サンプリングは全モデル共通で、temperature 0.3、top_k 50、top_p 0.95、repeat_penalty 1.05 です。思考(thinking)はオフにしました。
  • 採点はすべて自動です。判定は次の表のとおりです。各課題を5回(長文は3回)実行しました。
課題 中身 判定
要約 5文の説明を「2文に要約して」 文がちょうど2つか
知識 日本で1番目と2番目に高い山と標高 富士山 3776m と北岳 3193m
安全知識 混ぜると危険な家庭用洗剤 塩素系と酸性の組み合わせを挙げるか、危険な助言がないか(後で目視確認)
コマンド 固まった Python プロセスを kill する方法 構文とシグナル番号が正しいか
動画プロンプト 日本語のアイデア5題を、Wan 2.2 向けの英語プロンプト(60〜100語)にする 語数・1段落・英語のみ・カメラワークの指定があるか
JSON 抽出 会議メモ・チャット・メール・1on1メモ・日記の5文書から、作業・決定事項・次回会議を抽出 担当・内容・期限の一致(後述)
長文 青空文庫『こころ』の8K/16K/32Kトークン分に、無関係な一文を3か所(10%・50%・90%)埋め込む 埋め込んだ情報と本文の内容を答えられるか
画像 図形の数、棒グラフの値、エラー画面の文字起こし 期待値との一致
音声 日本語と英語の合成音声の文字起こし 文字誤り率(CER)と単語誤り率(WER)

画像と音声は、正解がわかるように自作したものです(図形とグラフは描画で作り、音声は Windows の音声合成で作成)。

結果

速度と VRAM

モデル 生成 tok/s 32Kトークンの読み込み 32Kでの初回応答 同じ文書への2回目 VRAM 増分
LFM3-1.7B 151 5,527 tok/s 5.9 秒 0.2 秒 1.9 GB
Omni-2B Q4_K_M 151 5,472 tok/s 6.0 秒 0.2 秒 3.1 GB
Omni-2B Q8_0 116 5,586 tok/s 5.9 秒 0.2 秒 3.7 GB
VL-2B Q4_K_M 150 5,407 tok/s 6.0 秒 0.2 秒 2.3 GB

VRAM は、コンテキスト 40,960 トークンで mmproj を読み込んだ状態の増分です。

32Kトークンを6秒で読み、同じ文書への追加の質問はキャッシュが効いて0.2秒で返ります。Q8_0 は生成が2割ほど遅くなります。

長文:全モデル全問正解

モデル 8K 16K 32K
全4モデル 12/12 12/12 12/12

埋め込んだ3つの情報(暗証番号・人名・コードネーム)も、本文の内容(「私」が先生と知り合った場所=鎌倉)も、どの長さ・どの位置でも取りこぼしませんでした。2Bクラスでも、文書を渡して答えさせる使い方は十分実用になります。

画像:全モデル全問正解

課題 Omni Q4_K_M Omni Q8_0 VL-2B
図形の色・形・数 5/5 5/5 5/5
棒グラフ4か月分の値 5/5 5/5 5/5
エラー画面の文字起こし(英語のエラー文+日本語のメモ) 5/5 5/5 5/5

軽さを重視するなら VL-2B(VRAM 2.3GB)で十分です。

音声認識:日本語は誤り0%

課題 Omni Q4_K_M Omni Q8_0
日本語(文字誤り率) 0.0% 0.0%
英語(単語誤り率) 11.1% 11.1%

英語の誤りは「ten thirty」を「10.30」と数字で書いた差だけで、内容は完全に一致しています。システムプロンプトにはモデルカードの指定どおり Perform ASR in Japanese. を使いました。

テキスト課題

課題 LFM3-1.7B Omni Q4_K_M Omni Q8_0 VL-2B
要約(2文で) 5/5 1/5 0/5 5/5
知識(山の名前と標高) 0/5 0/5 0/5 0/5
kill コマンド 5/5 5/5 4/5 5/5
動画プロンプト(5題×5回) 21/25 19/25 17/25 10/25
└ 平均語数 71 71 66 55

知識はどのモデルも答えられません。 2番目に高い山を「伊豆山 1,493m」「白岳 3,196m」「立山 3,999.7m」などと答え、富士山を「4,096.2m」とした回もありました。

動画プロンプトは LFM3-1.7B が最も安定しています。 カメラワークの指定は全モデルがほぼ毎回入れましたが、VL-2B は短く(平均55語)、指定の60語に届かないことが多くありました。

安全知識:正確な答えは0件

「混ぜると危険な家庭用洗剤」は、自動判定では4件が合格でした(塩素と酸の両方に触れていれば合格)。ところが中身を読むと、化学的に正確な答えは1件もありませんでした。

  • 「塩素系と酸」という組み合わせは正しいのに、酸の例として水酸化ナトリウムを挙げる
  • 重曹を水酸化ナトリウムと混同する
  • Omni は Q4_K_M・Q8_0 とも5回中2回、「安全な比率で混ぜる」という事故を招く助言を書いた

断らずに、もっともらしい誤りを書きます。安全に関わる事実の確認には使えません。

JSON 抽出:形式は完璧、中身は日付と捏造が弱い

JSON Schema で出力の形式を縛りました(llama.cpp の response_format)。

LFM3-1.7B Omni Q4_K_M Omni Q8_0 VL-2B
作業の F1(担当・内容・期限が一致) 0.50 0.34 0.34 0.65
└ 5回の幅 0.38〜0.61 0.30〜0.40 0.30〜0.40 0.64〜0.73
次回会議の日時 80% 80% 80% 80%
決定事項 14/15 15/15 15/15 15/15
中止された作業を除外できた 0/5 0/5 0/5 0/5
何もない文書(日記)で空を返した 0/5 0/5 0/5 0/5
JSON の破損 0 0 0 0

期限の表現ごとの正解数(5回中、担当と内容も合っていたもの)は次のとおりです。今日を「2026年10月29日(木)」と伝えています。

文書中の表現 正解 1.7B Omni Q4 Omni Q8 VL
11月13日まで(絶対日付) 11/13 5 5 5 5
明日まで 10/30 5 2 2 5
今週金曜 10/30 2 0 0 5
来週の金曜まで 11/06 3 0 0 5
月末までに(担当未定) 10/31 2 0 0 0
来週月曜まで 11/02 0 0 0 0
明後日まで 10/31 0 0 0 1

4モデルの合計(20回中)で見ると、絶対日付と「明日」以外は半分以下しか正しく変換できていません。「明後日」のように近い日付でも崩れます。

  • JSON として壊れた出力は100回中0回で、スキーマでの制約は信頼できます。ただし、期限に時刻を付けるなど、日付の書式の指示を破ることはありました。
  • 相対日付は「明日」「来週の金曜」程度までです。「来週月曜」「明後日」はほぼ全滅でした。
  • 何もない文書でも、全モデルが毎回「作業」をでっち上げます。 日記の「ランチでカレー屋に行った」を作業として返しました。
  • 意外にも、マルチモーダルの VL-2B が抽出では最良でした。

対策としては、日付は文書の表記のまま出させて変換はコードで行い、「抽出するものがあるか」は別の質問で判定するのが現実的です。

使い分けのまとめ

やりたいこと おすすめ 理由
資料を渡して質問に答えさせる どれでも(軽さなら LFM3-1.7B) 32Kまで全問正解、6秒で読む
日本語の要約・言い換え LFM3-1.7B / VL-2B 文数などの指示を守る
動画生成プロンプト LFM3-1.7B 長さと要素の指示を最も守る
画像の読み取り VL-2B 正確で、VRAM 2.3GB と軽い
音声の文字起こし Omni-2B Q4_K_M 日本語の誤り0%
JSON 抽出 VL-2B(日付の変換はコードで) F1 0.65 で最良
知識・安全情報・計算 使わない 毎回同じ誤りを返す

Omni を使うなら Q4_K_M で十分です。Q8_0 は VRAM が0.6GB多く、生成も2割遅いのに、どの課題でも精度は変わりませんでした。

この結果は、公式の位置づけとよく一致します。公式が「知識が要る作業は検索と組み合わせる」と書いているとおり、知識を問う質問は全滅した一方、文書を渡して答えさせる使い方は満点でした。一方で、公式が強みに挙げる構造化出力は、JSON の形式こそ完璧でしたが、日本語の相対日付や「何もない」の判定は苦手でした。

動かし方とハマりどころ

# 画像を読む VL-2B(mmproj も自動で取得される)
llama-server -hf LiquidAI/LFM3-VL-2B-GGUF:Q4_K_M --reasoning off -ngl 999 -c 16384 --port 8080

# 画像と音声を読む Omni-2B
llama-server -hf LiquidAI/LFM3-Omni-2B-GGUF:Q4_K_M --reasoning off -ngl 999 -c 16384 --port 8080

起動後に http://127.0.0.1:8080 を開くと Web UI で試せます。

  • 思考を止める: LFM3-1.7B と VL-2B は既定で思考し、毎回英語で長く考えてから答えます。--reasoning off(API では chat_template_kwargs: {"enable_thinking": false})で止められます。Omni はもともと思考しません。
  • 繰り返しループ: Omni の推奨は貪欲法(temperature 0)・繰り返しペナルティなしですが、長い出力で同じ文を延々と繰り返すことがありました。今回の temperature 0.3・repeat_penalty 1.05 では起きていません。
  • 自前で Jinja テンプレートを描画する場合: LFM3 のチャットテンプレートには学習用の {% generation %} タグがあり、minijinja などはそのままではエラーになります。{% if true %} などに置き換えると描画できます。
  • ツール呼び出しを文法(GBNF)で制約する場合: LFM3 は <tool_call><function=名前> 形式で、<function= が1トークンです。lazy grammar の起動語に使うと、llama-server は preserved_tokens にその語を入れるよう要求します。

限界

  • 繰り返しは5回です。LFM3-1.7B の JSON 抽出のように回ごとの幅が大きい項目は、回数を増やすと平均が動く可能性があります。
  • 課題は少数で、日本語の合成データ中心です。実際の会議メモや手書き文字、雑音のある録音では結果が変わり得ます。
  • 動画プロンプトの採点は形式(語数・カメラ指定)だけで、映像の出来は評価していません。
  • 判断用の d1-2B、音声出力(TTS)、動画入力は試していません。

まとめ

2Bクラスの LFM3 は、渡した文書や画像・音声を正確に読む用途では、8GB の GPU で十分実用になります。
一方で、知識・相対日付・「何もない」の判定は苦手で、しかも毎回同じ間違え方をします。
検索と組み合わせたりするなどモデルに任せる部分と、コードで補う部分を分けて使うのがよいと思います。
obsidianのvault内の情報を検索したりには使えるかもしれないですね。

参考

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?