问小创
告诉我你的需求，我帮你从站内挑最合适的 AI 工具。
2026年7月30日，腾讯正式对外开源大模型统训框架AngelSpec。该框架通过多方案协同、工作负载异构适配能力，针对多轮对话、代码生成、数学推理等不同场景采取差异化优化策略，搭载自研DFly块扩散架构，可有效降低大模型自回归解码成本，大幅提升真实场景下的大模型推理吞吐量。
随着大模型参数规模持续攀高、下游应用请求量爆发式增长，自回归解码产生的算力成本已经占到大模型运营总成本的60%以上，成为制约大模型规模化落地的核心瓶颈。
此前行业推出的通用推理优化方案，大多基于标准化测试集设计，而真实业务场景中的请求特征差异极大：开放式多轮对话的输出随机性高、上下文变动频繁，代码生成、数学推理类任务的输出逻辑链长、结构约束性强，通用方案往往会出现“实验室跑分优异，落地效果大幅打折”的适配问题，始终未能解决真实场景的效率痛点。
和传统的通用优化方案不同，AngelSpec的核心设计逻辑是“场景化适配+架构级创新”双轮驱动。
针对高熵开放式多轮对话场景，框架采用轻量稳定的多token预测机制（MTP），结合训练时测试（TTT）和端到端总变差损失算法，能够自适应自回归展开过程中的状态分布变化，在实测中对话场景推理吞吐量提升32%，延迟降低27%。面对代码生成、数学推理这类结构约束较强的场景，AngelSpec则通过专有块扩散模型进行强化，充分挖掘长跨度可预测序列的潜力，比主流优化方案的吞吐量高出40%以上。
AngelSpec搭载的自研DFly块扩散框架是其性能提升的核心支撑。该架构通过混合目标条件编码骨干与前序条件自回归头，在保持高吞吐量并行生成的同时，大幅优化了目标特征利用率与块内依赖建模，还支持CPU、GPU、国产AI芯片等异构算力的自动适配，可将企业的部署适配成本降低60%以上。
本次腾讯将AngelSpec完全开源，面向所有开发者开放无限制商用授权，意味着大模型推理优化领域的核心技术门槛进一步降低。中小开发者不需要从零搭建复杂的推理优化体系，即可快速实现大模型部署效率的提升，降低日常运营成本。
据腾讯技术团队透露，后续AngelSpec还将陆续完善多模态推理的适配能力，同时完成和Hugging Face、DeepSpeed等主流大模型开发生态的兼容，进一步覆盖更多应用场景。行业分析认为，AngelSpec的开源有望推动大模型推理成本进入下行通道，加速大模型在政务、零售、工业等更多下沉场景的落地。
本文基于公开信息分析整理，仅供参考。更多AI工具动态与行业解读，请持续关注本站更新。
滇公网安备 53252802528133号