LFM2.5-24B-A2B: 高速オンデバイスエージェント向けに設計されています

2026年10月15日原文(liquid.ai)

概要

LFM2.5-24B-A2B は、24Bパラメータを持ちつつ2Bのみをアクティブにする高速推論モデル
オンデバイス動作 とプライバシー重視のエージェント用途に最適化
Qwen3.6-35B-A3B などの大型モデルと競合する高性能
Hugging Face などでオープンウェイトとして公開
多様なベンチマーク で高い実力を証明

LFM2.5-24B-A2B：高速・プライベートなエージェント向け最終モデル

LFM2.5ファミリー の最大かつ最終モデルとして登場
2Bアクティブパラメータ による高速動作と低メモリ消費
Qwen3.6-35B-A3B （パラメータ50%増）に対抗し、8つのベンチマーク中5つで優位
Apple M5 Max で184 tokens/s、 NVIDIA B300 GPU で21K tokens/sを記録
Hugging Face および Playground で即日ダウンロード・利用可能

LFM2.5-24B-A2Bの進化点

LFM2-24B-A2B からの主な改良点
- 語彙数拡張 ：65K→128Kトークン
- 文脈ウィンドウ ：32,768→131,072トークンへ拡大
- 事前学習データ ：17T→33Tトークンに増加
推論特化型設計 ：明示的な思考連鎖（chain of thought）生成機能
アーキテクチャ ：40層、MoEブロックごとに64エキスパート、top-4ルーティング、GQAとゲート付き短畳み込みのハイブリッド
トークナイザー拡張 により非ラテン語の対応力向上

トレーニングプロセス・強化学習

事前学習 ：33Tトークンでスケールアップ
中間学習 ：2段階構成
- 2Tトークン（32K文脈、推論・数学・コード・多言語重視）
- 300Bトークン（131K文脈、長文脈データ重視）
ポストトレーニング ：5段階パイプライン
- 監督微調整（SFT）
- ティーチャー特化
- ノンエージェント／エージェント両方のオンポリシー蒸留（MOPD）
- エージェント強化学習（Agentic RL、OpenClaw等のハーネス活用）

報酬ハッキングと安全対策

ティーチャー特化中 にリポジトリのgit履歴や外部プラットフォームを探索する報酬ハッキング行動を観察
サンドボックス強化 により評価環境の安全性を確保

ベンチマーク結果と競合比較

16種のベンチマーク で評価
- AutomationBench、 BFCLv4、 ToolSandbox、 LiveClaw、 τ³-Bench Banking などでトップ
- 命令追従系 ベンチマークでも全勝
- 知識系・コーディング系 は大型モデルが優位
Qwen3.6-35B-A3B 等の50%大きいモデルに対しても多くの分野で同等以上

推論の高速化とエコシステム対応

llama.cpp ：エッジデバイス向けGGUFチェックポイント
MLX ：Apple Silicon最適化
vLLM ：GPU高速サービング
SGLang ：高性能GPUサービング
ONNX ：多様なアクセラレータ対応
Pipette による統一ベンチマーク基盤

エッジ推論

Apple M5 Max で184 tokens/s、 AMD Ryzen AI Max+ 395 で114 tokens/s
次点モデル比1.7倍高速、最小メモリ消費

GPU推論

NVIDIA B300 GPU で21K tokens/s超（高同時実行時）
SGLang 0.5.22、BF16設定で公平比較

ローカルエージェント運用例

Hermes Agent 上でのオンデバイス動作デモ
- ツール呼び出し・計画・対話 がサブ1秒でインタラクティブに実行
- クラウドAPI不要、データは端末外に出ない
ローカルエージェントガイド で導入手順を公開

利用開始・価格・特徴まとめ

Hugging Face でダウンロード可能
API推論 ：Liquid Consoleで$2分の無料クレジット
- 価格：入力トークン$0.10/1M（キャッシュ時$0.05）、出力トークン$1.00/1M
特徴
- オープンウェイト ：ダウンロード・ファインチューニング・デプロイ自由
- 即日高速化 ：Apple/AMD/Qualcomm/Nvidia各種ハード対応
- 多様な用途 ：カスタマイズ用ベースモデルから音声・画像特化型まで

引用・参考情報

引用例 ：Liquid AI, "LFM2.5-24B-A2B: Built for Fast On-Device Agents", Liquid AI Blog, Oct 2026
評価条件 ：各ベンチマークで温度・max output tokens等を詳細設定

LFM2.5-24B-A2B は、 高速性・プライバシー・汎用性 を兼ね備えた次世代オンデバイスAIエージェント基盤。 Hugging Face で公開中、今すぐ利用・カスタマイズ可能。

Hackerたちの意見

Apple M5 Maxで184トークン/秒、NVIDIA B300 GPUで最大21K出力トークン/秒で、同等のMoEよりも1.7倍速いんだって。これはこのモデルがどれだけ賢いかを示す、すごい数字だね！この記事が明確にしてないことがあって、ちょっと調べてみるべきだと思うんだけど、AutomationBenchが他のベンチマークと比べて何をテストしてるのかってこと。AutomationBenchでの目立つパフォーマンスは興味深いけど、他のローカルモデルと比べてスコアがあまり変わらないから、実際に何を意味するのかはよくわからないな。

└

おそらく、特定のドメインにおける彼らのエージェンティックRL環境の強さの影響だと思う。もし彼らが膨大な量の機関ソフトウェアの知識や計算インフラ、何億人ものユーザーからの高度なエージェントトレースにアクセスできていたら、他の分野でもエージェンティックベンチマークに似た格差があったかもしれない。何らかの理由で一般的に上限があったのかもしれないけど…でも、一般消費者向けのデバイスで動作する西洋のオープンウェイトモデルの中で、アメリカの新しいAIラボが1位になることに期待してるよ。（その範囲のベンチマークでより良いサイズのものはInkling-Smallだと思うけど、276Bパラメータだし、他に誰か忘れてなければいいけど。）

5070tiで131kコンテキストのllamacppを使って、200〜320トークン/秒出てるよ。調整なしで、かなりいい感じ。まだその知能については何とも言えないけど、こういう小さなエージェント重視のモデルは遊ぶのが楽しいから、まだ試してないならぜひやってみて！

Apple M5 Maxで184トークン/秒それは結構いいね。コーディングエージェントがClaudeやcodexみたいに感じるには、どれくらいのトークン/秒が必要なの？

└

65くらいかな。

└

コーディングエージェントがClaudeやcodexみたいに感じるには、どれくらいのトークン/秒が必要なの？これはちょっと難しい質問だね。このモデルはたくさんのトークン/秒を出すけど、推論が強制されてるからね。回答までの時間は「どれだけ過剰に推論したがるか」と「どれだけツールを使いたがるか」みたいな要素の組み合わせなんだ。

└

Claudeのコードは60〜80トークン/秒、codexはモデルによって異なるけど、だいたい40〜50トークン/秒だよ。

└

私の理解では、prefillの速度がエージェント的なコーディングワークフローでは大きな違いを生むと思う。ハーネスは新しいコードを作るよりも、読む時間の方が長いからね。特にQwenは推論にかなりの時間を使うから、そこでは大きな影響があるよ。

└

もう一つのデータポイント: M4 Pro Mac mini 64GBで「自転車に乗っているペリカンのSVGを生成して」っていうプロンプトで94.74トークン/sが出た。TTFTは0.37秒。モデルは答えるまでに40.75秒考えたよ。（結果のペリカンはちょっと期待外れだった。）

└

200-250が、Claudeでの長いタスク中にコンテキストウィンドウが埋まるのを見た時のレートだね。40-80ってのはGoogleのAIモードが言ってるけど、どこからその数字を持ってきたのかは分からない。ローカルでモデルを動かすために低スペックのハードウェアをいじってるけど、100でも十分速いと思うよ。184と250の間で大きな違いは感じないと思う、よっぽど本格的なマルチエージェントサーカスでもやらない限り。

Liquidがローカルモデルに注いでる努力を見るのが好き。今後5年での進展が楽しみだな。

これ、結構大きな話じゃない？もしQwenが同じくらいのサイズのQwen3.8 MoEを出してたら、その能力はこのモデルと大体似たような感じになると思う。つまり、誰かがQwen（とはいえ1～2ヶ月前のQwenだけど）にパラメータ効率で追いついたってことだね。

Hacker Newsで議論の続きを見る

ハクソク