你让 AI 在电脑上查资料、调用软件,再整理成答案,往往会遇到一个现实问题:模型越强,通常越吃算力;模型越小,又可能应付不了复杂任务。Liquid AI 的新模型 LFM2.5-24B-A2B 想在两者之间找平衡:它装下 240 亿参数,但生成每个 token——可以粗略理解为一小段文字——时,只让其中 24.5 亿参数参加计算。
标题里的“只唤醒 2B”因此只是近似说法。更准确的数字是 2.45B,而且指每个 token 的激活量,不是整次请求只使用固定的 2.45B。本文的结构与性能数字主要来自 Liquid AI 的官方模型卡;速度和排行榜成绩尚无独立测试佐证。
像一家按需叫人的事务所
LFM2.5-24B-A2B 是一个 MoE(Mixture of Experts,混合专家)模型。可以把它想成一家拥有许多不同专长员工的事务所:人才都在,但处理一项具体工作时,不必让所有人同时开会。
模型的每个 MoE 模块包含 64 个“专家”——也就是分工不同的子网络。生成每一步时,路由机制只选择其中 4 个,这叫 top-4 routing。于是,模型保留了 24B 的总容量,实际单步计算量却压到 2.45B。需要注意,其余权重不能删掉,因为下一步可能会选中另一组专家。
它共有 40 层,其中 30 层是 double-gated short convolution blocks,另外 10 层采用 GQA。官方材料没有进一步解释这些模块各自贡献了多少性能,因此这里不宜仅凭结构名称推断效果。可以确定的是,Liquid AI 把设计重点放在了“较大容量、较低单步激活量”这组组合上。
这也接上了本刊此前追踪的另一条路线。9 月 28 日和 10 月 9 日,我们分别介绍过让 MoE 权重借道磁盘,以及让 llama.cpp 按需缓存专家。那些工作在解决“怎样装下模型”;LFM2.5-24B-A2B 更关心“装下以后,每一步怎样少算一点”。
它为什么盯着 Agent?
这个模型面向工具调用型 Agent。所谓工具调用,是让模型按规定格式请求搜索、数据库或其他软件功能,再根据返回结果继续工作。模型不只聊天,还要判断何时调用什么工具,并正确处理结果。
LFM2.5-24B-A2B 还会在正式回答前强制进行推理。直观地说,它被要求先打一遍草稿,再给出结论。这样可能有利于复杂任务,但草稿本身也要逐 token 生成,会增加输出长度、等待时间和计算量。低激活 MoE 的意义正在这里:既然推理步骤无法省掉,就尽量降低每一步的成本。
按照官方模型卡的数据,它在工具使用基准 LiveClaw 上得到 48.09 分,高于材料中所称 Qwen3.6-35B-A3B 的 38.19 分。不过,这个对手名称和比较条件在供稿中无法进一步确认,所以这组成绩更适合看作厂商给出的定位信号,而不是已经坐实的全面领先。
本地运行,才是这套设计的落点
官方模型卡称,它在端侧推理中最高比可比 MoE 快 1.7 倍;在 Apple M5 Max 上达到 184 tok/s,在单张 NVIDIA B300 上最高达到 21K output tok/s。材料没有披露这些测试的量化精度、上下文长度、批量大小和具体对照模型,三组数字不能直接外推到普通用户的设备,但至少说明 Liquid AI 优先优化了本地和高吞吐部署。
模型支持 131,072 tokens 的上下文,词表大小为 128,000,训练预算为 36 trillion tokens。它是纯文本通用推理模型,支持包括英语、中文在内的 16 种语言,也是 LFM2.5 系列最大且最后一个型号;该系列从 230M 一直延伸到 24B。
这背后延续了 Liquid AI 一贯的公司叙事。据 WIRED 与 MIT CSAIL 介绍,团队早期研究的 liquid neural networks 受到秀丽隐杆线虫约 302 个神经元的神经系统启发,希望用更小的网络完成复杂工作。今天的 LFM 已不是简单照搬“虫脑”,但“用较少的实际计算承载更多能力”仍是同一个方向。
局限与未知
- 24B 总参数仍需存放;2.45B 激活量降低的是每一步的计算需求,不等于模型只占一个 2.45B 模型的存储空间。
- LiveClaw、1.7 倍加速及两组吞吐数字都来自官方模型卡,缺少完整测试配置和独立复现。
- Liquid AI 建议在知识密集型任务中搭配检索或网页搜索。这意味着工具调用表现不能直接等同于事实知识可靠性。