AI 问小创

你好,我是问小创 AI 助手

告诉我你的需求,我帮你从站内挑最合适的 AI 工具。

推荐结果基于站内收录,仅供参考,请以实际工具信息为准。
猜你想问
推荐一些AI写作工具 有什么AI绘画工具? 推荐视频剪辑AI工具
AI
问小创: 告诉我你的需求,我帮你从站内挑最合适的 AI 工具。

Liquid AI推出LFM2.5-DSpark模型 解码提速3.18倍且输出无损

近日,AI初创公司Liquid AI正式推出LFM2.5-DSpark Draft系列模型,该系列基于推测解码技术对原有LFM2.5大语言模型进行优化,在完全不改变模型输出结果的前提下,解码速度最高提升3.18倍,有望大幅降低大语言模型推理成本,提升各类端侧、云端AI应用的响应效率。

配图

推理速度慢、算力成本高一直是制约大语言模型规模化落地的核心瓶颈,尤其是在高并发的企业级服务场景和算力有限的消费级端侧设备上,更快的解码速度直接决定了用户体验与运营投入的平衡点,行业长期以来都在探索不损失模型效果的提速方案。

本次Liquid AI推出的DSpark系列模型,核心是为原有LFM2.5基座模型新增了推测解码(Speculative Decoding)模块。和业内常见的量化、剪枝等会一定程度损失模型输出质量的优化方案不同,推测解码通过轻量小模型提前预测后续生成token、再由基座模型一次性批量验证的技术路径,既不会改变基座模型的原有输出结果,也不需要对基座进行额外重训练,适配成本极低。

根据官方公布的测试数据,在长文本生成、多轮对话等通用场景下,LFM2.5-DSpark的解码速度普遍比原版LFM2.5提升2倍以上,在短问答等特定场景下最高可达3.18倍,完全满足实时交互的响应要求。

2026年以来,大模型行业的竞争已经从参数规模、能力上限的比拼,转向落地成本、运行效率的务实竞争,OpenAI、Anthropic等头部厂商都在密集推出推理优化版本的模型,以期降低服务成本争夺企业客户。

作为主打轻量化、高能效比的AI初创企业,Liquid AI此前推出的LFM系列开源模型,就凭借同等参数下优于Llama 3的性能表现和更低的算力要求,获得了不少端侧硬件厂商、AI应用开发者的青睐,本次DSpark系列的推出,进一步巩固了其在能效赛道的竞争优势。据行业测算,推理成本目前已经占到大模型运营总成本的70%以上,若全行业普及同类无损提速方案,整体推理成本有望下降超50%,直接推动AI应用向更多下沉场景渗透。

业内分析师指出,LFM2.5-DSpark这类无损提速模型的普及,将进一步降低端侧AI的算力门槛:原本需要中高端芯片才能流畅运行的7B、14B参数级大模型,现在在中端消费级芯片上也能实现实时响应,未来智能手表、车载语音助手、离线办公软件等场景的AI功能体验有望迎来明显升级。

目前Liquid AI已经开放了该系列模型的开源权重,开发者可免费获取用于商用或非商用开发,预计未来3个月内将有超过20款消费级AI应用接入该系列模型。

本文基于公开信息分析整理,仅供参考。更多AI工具动态与行业解读,请持续关注本站更新。