Liquid AI发布LFM2.5-24B-A2B：融合卷积与GQA架构，实现184 tokens/s端侧推理

前沿人工智能模型的演进在2026年分化为两条同样雄心勃勃的工程路线：当超大规模厂商构建千兆瓦级的云端超级集群来处理数万亿参数的模型时，一场安静且技术上具有革命性的竞赛正在重新配置边缘计算。对于数百万开发者、信息安全研究人员以及受制于严格数据保密法规的企业而言，对集中式外部API的强制依赖意味着网络延迟瓶颈、天文数字般的重复请求成本以及永久性的知识产权泄漏风险。随着Liquid AI正式宣布推出LFM2.5-24B-A2B，本地计算生态系统达到了一个新的历史里程碑：使复杂的审慎推理代理能够在消费级硬件上100%在端侧运行，并具备流畅的交互速度。

作为具有影响力的LFM2.5系列的巅峰之作和最终模型，LFM2.5-24B-A2B打破了纯Transformer的排他性教条。该模型采用40层混合拓扑结构，结合了30个双选通短卷积块和10个分组查询注意力（Grouped-Query Attention - GQA）块。在混合专家（MoE）架构下运行，每个块有64个专家并采用Top-4动态路由，该系统在总共240亿个参数中，每个token仅调动2.45亿个激活参数。这种构型使得模型可以轻松容纳在仅15 GB的RAM中（通过llama.cpp进行Q4KM量化），在Apple M5 Max芯片上以惊人的每秒184个token的速度进行解码，并在单个私有云NVIDIA B300加速器上实现超过每秒21,000个token的吞吐量。

该模型在LFM Open License v1.0许可下发布开源权重并进驻Hugging Face社区仓库，重新定义了本地软件 automation。在AutomationBench基准测试中创下27.69%的成绩（将其同体量竞争对手的分数提高了三倍），在ToolSandbox中创下80.71%的成绩，LFM2.5-24B-A2B确立了工具调用领域的新基准，证明了私有和主权代理不再需要远程数据中心的介入即可交付卓越的认知能力。

架构创新：卷积与GQA的结合

Liquid AI研究团队（由来自MIT的液体基底模型先驱领导）正式发布LFM2.5-24B-A2B，代表了一项多年来发展的数学成熟商业化：神经网络不需要在每一层都计算稠密的二次注意力矩阵来保留长文档中的因果关系。

纯注意力模型随着上下文的延伸面临键值缓存（KV Cache）内存占用爆炸的问题，这使得它们在个人电脑上的执行变得不可行。Liquid AI的模型分担了处理负载：

• 30层卷积层： 以线性复杂度 $O(N)$ 和固定的内存消耗执行局部时间token混合，以极高的硬件速度合成语法和即时上下文。
• 10层全局GQA层： 策略性地插入网络骨干网中，执行远程关联检索。
• 上下文扩展： 本地窗口较上一代扩大了四倍，从32,768跃升至131,072个token，同时词表扩展至128,000个token，使非拉丁语言和源代码的分词效率优化高达50%。

原生推理与性能基准

与生成即时响应且在多步骤代理任务中经常犯语法错误的传统对话模型不同，LFM2.5-24B-A2B被设计为纯推理引擎。每次交互都强制打开一个审慎思维链块（<think>），允许模型在发出最终命令之前规划工具调用、将目标分解为子任务并内部测试假设。

在将该模型与Qwen3.6-35B-A3B和Gemma-4-26B-A4B-it等同类产品进行基准测试时，其专业化配置文件显露无遗。为了在企业工作流中无缝利用这些模型，开发者可以通过 n1n.ai 进行高性能代理路由和统一的API管理。

Python编排器实现

以下是LFM2.5-24B-A2B本地代理编排器的完整且功能齐全的Python实现。该脚本通过与vLLM/llama.cpp服务器兼容的本地端点（http://localhost:8080/v1）进行通信，处理审慎推理块（<think>），在操作系统中执行工具调用，并计算延迟遥测。

import asyncio
import json
import time
from typing import Dict, Any, List

class LocalLiquidAgentOrchestrator:
    def __init__(self, endpoint: str = "http://localhost:8080/v1") -> None:
        self.endpoint: str = endpoint
        self.model_name: str = "lfm2.5-24b-a2b"
        self.active_params_b: float = 2.45
        self.context_limit: int = 131072
        self.hardware_target: str = "Apple M5 Max / Llama.cpp Q4"

    def parse_reasoning_and_action(self, raw_output: str) -> Dict[str, str]:
        reasoning_block: str =