问小创
告诉我你的需求,我帮你从站内挑最合适的 AI 工具。
开源编程语言Rust近日正式上线代数浮点方法功能更新,针对浮点加、减、乘、除、取余五类核心运算,依托实数代数属性实现运算流程优化。该更新可直接降低AI大模型训练、边缘端推理等场景的底层算力损耗,为开发者提供兼顾内存安全与高性能的底层开发选择。
随着生成式AI大模型参数规模迈入万亿级,底层开发环节对编程语言的性能、安全双重要求持续攀升。过往占据AI基建开发主流的C++存在内存安全隐患,而Python等上层语言性能瓶颈明显,兼具安全与高性能特性的Rust,近年已成为AI底层开发领域增长最快的编程语言。
行业测算数据显示,大模型训练、推理流程中,浮点运算的算力占比超过92%,每10%的浮点运算效率提升,就能带动整体训练成本下降7%左右。
此前Rust的浮点运算严格遵循IEEE 754标准的校验要求,无法利用代数属性做运算优化,性能相比C++存在10%左右的差距,也限制了其在高性能AI场景的普及。
本次新增的代数浮点方法,核心是允许开发者在特定场景下,利用实数的交换律、结合律等代数性质,对浮点运算的执行顺序、合并逻辑做自动优化,覆盖加、减、乘、除、取余全五类基础浮点运算。
对于AI训练、科学计算等对微小误差容忍度较高的场景,启用代数浮点模式后,浮点运算的整体性能可提升15%-20%,同时误差增量控制在行业可接受的范围内。开发者可根据业务需求灵活选择是否开启该模式,不会影响原有需要高精度运算场景的正常运行。
目前包括OpenAI、DeepSeek在内的多家头部AI厂商,已经在核心推理框架、算子库的开发中引入Rust语言,进一步降低内存溢出、并发冲突等问题的出现概率。
本次浮点运算性能的大幅提升,进一步缩小了Rust与C++之间的性能差距,同时保留了其原生的内存安全、并发安全特性。业内预计,未来2-3年内,Rust在AI底层基础设施开发领域的渗透率将从目前的8%提升至30%左右,成为AI开发的主流底层语言之一。
AI创作导航,创作与探索并重。聚合全球优质AI工具,覆盖短视频、图文、写作、设计等创作场景,以及办公、学习、编程、生活等全品类需求。从创作出发,探索AI的无限可能,为创作者、学生、教师、职场人提供一站式AI工具导航与场景化应用指南。