Liquid AI发布两款开源双向编码器 CPU端8K上下文推理效率优异

AI创作导航管理员 LV5 大神连续登录30天萌新

2 个月前

风向

1438

2026年7月，AI技术公司Liquid AI正式发布两款开源权重双向编码器产品LFM2.5-Encoder-230M与LFM2.5-Encoder-350M，两款产品均支持8192token上下文窗口，即便在CPU环境下运行长上下文推理任务也能保持极高速度，可广泛适配文本分类、语义检索、信息抽取等多类下游AI应用场景。

随着端侧AI、轻量化私有AI部署的需求爆发，行业对低算力依赖、高语义理解能力的模型组件需求持续攀升。过往主流的小参数双向编码器普遍受限于4096token以内的上下文窗口，处理长文本时要么需要分段切割损失语义，要么在CPU环境下推理速度骤降，无法满足生产级应用的要求。

不少中小团队受限于GPU算力成本，很难落地长文本语义检索、多轮对话意图识别等相关应用，闭源编码器的调用成本、数据安全风险也一直是企业级用户的核心顾虑。

本次Liquid AI推出的LFM2.5-Encoder-230M、LFM2.5-Encoder-350M两款新品，恰好击中了上述行业痛点。

两款编码器参数规模分别为230M和350M，均采用双向注意力架构，对上下文语义的理解精度远高于同参数的单向语言模型，8192token的上下文窗口足以覆盖绝大多数长文档、多轮对话的处理需求。

最为核心的性能优势在于，两款产品针对CPU架构做了深度优化，实测显示在处理8K长度的文本推理任务时，CPU推理速度比同参数级竞品高出近50%，即便是普通x86服务器的CPU也能轻松承载高并发的推理请求。同时两款产品完全开放权重，开发者可免费下载后针对自身业务场景做微调，无需支付额外的版权费用。

从产品布局来看，本次发布的两款编码器是Liquid AI LFM2.5系列产品的重要补充，补全了其在语义理解、信息抽取等下游任务的轻量组件矩阵，也为中小开发者、企业用户提供了高性价比的AI基础设施选项。

随着端侧AI应用的普及，这类对算力要求低、性能达标的开源小模型会成为行业刚需。预计未来2-3年，不需要依赖GPU算力就能运行的生产级AI组件会进一步丰富，私有部署、端侧运行的AI应用的语义理解能力将迎来明显提升，也能进一步降低AI技术的落地门槛。

开源大模型 AI 端侧AI 语义理解 Liquid 双向编码器

本文基于公开信息分析整理，仅供参考。更多AI工具动态与行业解读，请持续关注本站更新。