问小创
告诉我你的需求，我帮你从站内挑最合适的 AI 工具。
2026年7月，谷歌正式发布Web端AI推理加速库LiteRT.js。该产品采用WebAssembly技术，深度整合WebGPU、WebNN硬件加速能力，将替代此前推出的TensorFlow.js传统JavaScript内核，实测浏览器端AI推理速度最高提升3倍，大幅降低网页端部署AI应用的性能门槛，为Web端AI生态落地提供新的技术路径。
在搭载M4芯片的2024款苹果MacBook Pro上的实测数据显示，面对同量级的AI图像生成、大语言模型推理任务，最新发布的LiteRT.js的运行延迟比原TensorFlow.js方案低60%以上，峰值算力表现提升达3倍，甚至在未搭载独立GPU的老旧轻薄本上，也能实现基础端侧AI功能的流畅运行。
此前谷歌推出的TensorFlow.js一度是Web端AI部署的主流方案，支持开发者直接将TensorFlow训练好的模型部署到浏览器中，不需要用户额外下载客户端软件。但其基于传统JavaScript内核的架构，受限于浏览器JS运行时的性能上限，很难支撑7B以上参数大模型的端侧推理需求。
此前用户想要在Web端使用AI功能，要么只能使用功能受限的轻量化模型，要么需要将数据上传至云端完成推理，不仅延迟高、受网络条件限制，还存在数据泄露的风险，这也成为网页端原生AI应用普及的核心阻碍。
LiteRT.js的核心升级是彻底放弃了传统JavaScript内核，采用WebAssembly作为执行层核心，作为一种二进制指令格式，WebAssembly能让网页代码以接近本地原生程序的速度运行，理论计算效率比JS内核高出2-5倍。同时该库还原生适配了WebGPU、WebNN等异构硬件接口，能够自动调度设备端的CPU、GPU、NPU等所有可用算力资源，不需要开发者手动做硬件适配。
对于开发者而言，LiteRT.js完全兼容现有TensorFlow.js的API接口，原有项目只需要替换核心内核就能完成升级，不需要对业务代码进行大规模重构，大幅降低了迁移成本。
随着LiteRT.js的普及，未来普通用户打开浏览器就能使用7B参数级的本地大模型、4K级AI图像实时生成等功能，不需要将个人数据上传至云端，既降低了服务提供商的带宽成本，也能更好保护用户隐私。
谷歌相关团队透露，后续LiteRT.js还将逐步适配更多端侧硬件的加速接口，进一步缩小Web端与客户端软件的AI性能差距，预计未来1-2年内，网页端原生AI应用的数量将迎来爆发式增长。
本文基于公开信息分析整理，仅供参考。更多AI工具动态与行业解读，请持续关注本站更新。
滇公网安备 53252802528133号