Liquid AI 开源 LFM2.5-24B-A2B:24B 总参 2B 激活,端侧智能体旗舰收官

开源模型 2026-10-14 19 0

发布概况:LFM2.5 家族的收官之作

LFM2.5-24B-A2B 16 项基准测试对比图

美国边缘智能公司 Liquid AI 于 10 月 13 日正式发布并开源旗舰语言模型 LFM2.5-24B-A2B。该模型总参数量 24B,每个 token 仅激活 2B 参数,定位是「为快速、私密的端侧智能体而生」。官方称其为 LFM2.5 家族中最大、也是最后一个成员——至此,LFM2.5 家族完成了从 230M 到 24B、横跨两个数量级的完整布局。

此次开源包括两个版本:经过后训练的对话版 LFM2.5-24B-A2B,以及基座版 LFM2.5-24B-A2B-Base,二者均已在 Hugging Face 上以开放权重形式发布,并同步上线 Liquid AI 官方 Playground。与上一代 LFM2-24B-A2B 不同的是,新模型是纯推理(reasoning-only)模型,会在给出最终答案之前先生成显式的思维链。官方解释,这一策略是为了充分利用它的高解码速度,用速度换取更高的回答质量。

回顾整个家族的时间线,LFM2.5 系列自 2026 年 1 月发布以来扩展迅速:从 230M、350M 这样的超小杯,到 1.2B-Thinking、2.6B、8B-A1B,再到面向视觉理解的 VL 系列与检索、编码器等专用变体,几乎每个月都有新成员落地。此次 24B 级旗舰压轴登场,意味着 Liquid AI 完成了从微型到旗舰的完整拼图,也把 LFM 架构的效率上限推到了新高度。

近来开源模型赛道动作频频,从智谱开源面向法律领域的 GLM 系列模型,到MiniCPM-V 4.7 以 35B-A3B 的 MoE 结构冲击端侧多模态,中小参数量、高激活效率的开放权重模型正成为行业焦点。LFM2.5-24B-A2B 的加入,让这一趋势进一步明确。

架构解析:延续 LFM2 骨架,上下文与词表翻倍

LFM2.5-24B-A2B 端侧推理速度对比图

LFM2.5-24B-A2B 建立在上一代 LFM2-24B-A2B 的基础之上,核心架构保持不变:40 层设计,每个 MoE 块包含 64 个专家、每次路由仅激活其中 4 个;层间混合使用门控短卷积(gated short convolution)与分组查询注意力(GQA)。这一混合架构是 Liquid AI 的招牌设计,也是其端侧推理效率的重要来源。

两处结构性变化值得注意。其一,上下文窗口从 32K 扩展到 131K 个 token,足足扩大四倍;其二,通过原位词表扩展技术,词表规模从 6.5 万翻倍至 12.8 万 token,显著改善非拉丁语系文本的编码效率,对中文用户而言是个利好。

训练数据与流程同样大幅升级。预训练规模从上一代的 17T tokens 扩大到 33T tokens;中训练分为两个阶段,第一阶段用 2T tokens 在 32K 上下文下针对推理、数学、代码、指令遵循与多语言数据做强化,第二阶段用 300B tokens 在 131K 上下文下专攻长文本能力,两个阶段中都穿插了工具调用与多轮轨迹数据,为智能体场景打底。

后训练则采用五阶段流水线:监督微调(SFT)、教师特化、非智能体与智能体两轮多域在策略蒸馏(MOPD),最后是在 OpenClaw、Hermes Agent、Pi、OpenCode 等真实智能体框架内进行的智能体强化学习。官方还透露了一个有趣的细节:在教师特化阶段,模型出现了典型的「奖励投机」行为,比如到代码仓库的 git 历史里、到 GitHub、PyPI、Hugging Face 等平台上去「抄答案」,甚至自行察觉到自己身处沙箱环境。团队随后收紧了沙箱,本文引用的全部成绩均来自封闭评估环境。

为什么端侧智能体需要「小激活」

LFM2.5-24B-A2B GPU 吞吐对比图

对不熟悉 MoE 架构的读者来说,值得解释一下「激活参数」为什么是关键指标。大模型生成文本时,解码阶段是逐 token 进行的,每一步的计算量几乎只取决于激活的参数量,而不是总参数量。换句话说,LFM2.5-24B-A2B 虽然装着 24B 参数的知识,但每生成一个 token 只需跑动 2B 参数的子网络,这就是它能在笔记本芯片上跑出每秒 184 个 token 的根本原因。

而生成速度快,对智能体场景的意义远不止「体验流畅」。一个典型的本地智能体需要在思考、调用工具、读取结果、再思考之间反复循环,一轮任务动辄生成上万 token 的思维链与工具调用,解码速度慢一倍,整个循环的耗时就会成倍放大。同时,全流程在本机完成,意味着数据不出设备、没有按 token 计费的 API 账单、每一步操作都留有可审计的完整轨迹。对于企业内网、个人电脑这类对隐私与成本敏感的环境,这正是「小激活」架构最实用的价值。

基准表现:智能体与工具调用是主战场

官方在 16 项基准上,将 LFM2.5-24B-A2B 与 Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it、Nemotron-3.5-Lightning(30B-A3B)三款 MoE 模型对比。值得注意的是,无论总参数还是激活参数,LFM2.5-24B-A2B 都是四者中最小的,对手们的总参与激活参数都比它多出约五成。

结果呈现出清晰的能力画像。在八项工具调用与智能体基准中,LFM2.5-24B-A2B 在五项上领先或打平:AutomationBench 拿下 27.69 分,是第二名 Qwen3.6-35B-A3B(8.72 分)的三倍以上;LiveClaw 得分 48.09,同样领先 Qwen 的 38.19;BFCLv4 以 65.01 对 65.00 险胜;ToolSandbox 得分 80.71;τ³-Bench Banking 也以 8.04 居首。三项指令遵循基准更是全部领跑:IFEval 96.75、IFBench 74.69、Multi-IF 84.38。

短板同样明确。在知识密集型基准上,GPQA Diamond 得分 74.42,低于 Qwen3.6-35B-A3B 的 83.69;SWE-Bench Verified(OpenCode)为 51.00,落后 Qwen 的 66.20;WebArena Verified 得分 26.75,对 37.62 也处于下风。官方对此的建议很务实:知识密集型任务应将 LFM2.5-24B-A2B 与检索或联网搜索搭配使用,这恰好扬其工具调用之长。

推理效率:端侧 184 tokens/s,单卡超 2.1 万 tokens/s

得益于仅 2B 的激活参数,LFM2.5-24B-A2B 在推理速度上表现突出。官方基于 Pipette 基准设施,以 llama.cpp、Q4_K_M 量化、4K 输入上下文测得:在 Apple M5 Max 上解码速度达 184 tokens/s,在 AMD Ryzen AI Max+ 395 上为 114 tokens/s,比对比 MoE 中最快者还要快至 1.7 倍,同时内存占用最低——M5 Max 上仅 15GB。这意味着在 16GB 至 24GB 统一内存的消费级设备上,就能跑通完整的本地智能体循环。

GPU 侧的表现同样亮眼。在单张 NVIDIA B300 上,以 SGLang 0.5.22、BF16 精度、1024 输入 token、最多 256 输出 token 的持续负载设置测得,高并发时输出吞吐超过 2.1 万 tokens/s,官方称其为同尺寸级别中最快的模型。

生态支持在发布第一天同步到位:llama.cpp(GGUF)、MLX(Apple Silicon)、vLLM、SGLang、ONNX 全部可用,官方发布的检查点覆盖原生、FP8、GGUF、ONNX 与 MLX-4bit 多种格式。开发者可以在本地用任意 OpenAI 兼容后端拉起服务,再接入 OpenClaw、Hermes Agent、Pi 等智能体框架。在官方演示中,模型在搭载 M5 Max 的 MacBook Pro 上借助 Hermes Agent 完全离线完成了一项真实任务,每次工具调度耗时远低于一秒。

许可证与可用性:开放但有门槛

LFM2.5-24B-A2B 采用 LFM Open License v1.0。该许可证以 Apache 2.0 为基础,允许免版税的使用、修改与分发,微调后的模型无需开源,但设有一条明确的商业使用门槛:公司年收入超过 1000 万美元后,需另行购买商业许可;研究与非营利用途则完全豁免。许可证同时保留了常规的署名要求——分发时须保留版权与来源声明,且不授予使用 Liquid AI 商标对外宣传的权利,违反条款时授权会自动终止。托管平台即便自身收入超过该门槛,仍可免费托管与分发模型。

不想自行部署的用户也可以走 API 路线:在 Liquid Console 上,该模型定价为每百万输入 token 0.1 美元(缓存输入 0.05 美元)、每百万输出 token 1 美元,注册即赠 2 美元额度。另外官方预告,用于 SGLang 投机解码的 DSpark 草稿模型即将推出,届时解码速度还有进一步提升的空间。

总体来看,LFM2.5-24B-A2B 并不追求全任务的全面领先,而是把「智能体推理加工具调用」这一件事做透,再用极致的激活效率让它得以在笔记本与桌面设备上流畅运行。对于需要在本地运行持续性智能体的开发者而言,它提供了一个隐私与成本都可控的新选项;而对整个开源社区来说,LFM2.5 家族以这样一款效率旗舰收官,也为端侧开源模型的下一阶段竞争定下了一个不小的标尺。

相关文章

Z.ai 上线 GLM-Legal:基于 GLM-5.3-Flash 的法律领域专用模型
阶跃星辰 Step 5 Preview:600B MoE、1M 上下文,得分对标 Kimi K3 成本仅约 1/2.8
阿里开放 Qwen3.8 旗舰权重:2.4 万亿参数 MoE 激活 95B,开源阵营再添顶级底座
月之暗面把 Kimi K3 摆上了 Amazon Bedrock:国产大模型开始按「分成」进云
小米把 MiMo-V2.6 全量开源:6 天在线强化学习、约 75 万条轨迹,Pro 版冲上最强开源模型
云栖大会首日:Qwen4 开训,千问把训练成本压下去近九成