AI 问小创

你好,我是问小创 AI 助手

告诉我你的需求,我帮你从站内挑最合适的 AI 工具。

推荐结果基于站内收录,仅供参考,请以实际工具信息为准。
猜你想问
推荐一些AI写作工具 有什么AI绘画工具? 推荐视频剪辑AI工具
AI
问小创: 告诉我你的需求,我帮你从站内挑最合适的 AI 工具。

Acrab发布5nm边缘AI芯片GΞLIX 1 可本地运行千亿参数大模型

2026年7月23日,AI芯片初创公司Acrab正式发布首款边缘AI终端SoC GΞLIX 1。该芯片采用5nm制程打造,基于异构计算架构实现650TOPS的AI总算力,性能是高通骁龙X Elite、英特尔酷睿Ultra系列旗舰NPU的十余倍,核心亮点为可完全脱离云端,本地运行1000亿参数规模的大语言模型。

配图

很长一段时间里,端侧设备运行大模型的参数上限都卡在百亿级别,主流消费级旗舰芯片的NPU算力普遍在40-50TOPS区间,仅能支撑70B以下参数模型的轻量化版本推理。想要用上更高参数的大模型,用户必须将数据上传至云端服务器,不仅要承担网络波动带来的延迟,医疗、金融、工业等敏感场景的数据泄露风险更是难以规避。

过去两年,端侧大模型的落地需求增长迅猛,但算力短板始终是最大限制:自动驾驶场景下,云端推理的延迟可能导致避险操作慢半拍;涉密办公场景下,核心数据上传云端存在泄露风险;智能家居场景下,网络波动会直接影响智能助手的响应速度。
此前行业普遍认为,要实现千亿参数大模型的端侧运行,至少还要2-3年的技术迭代,Acrab的新芯片直接把这个时间点大幅提前。

作为一家成立仅3年的AI芯片初创公司,Acrab首款产品就瞄准了边缘算力的核心痛点,性能参数远超行业预期。
此次推出的GΞLIX 1直接把端侧AI算力拉到了新的量级:5nm制程工艺下,芯片集成了20核Arm CPU、3TFLOPS GPU、独立NPU及专用音视频处理引擎,AI总算力达到650TOPS,是当前主流旗舰端侧芯片AI算力的15倍左右。为了适配大模型推理的高吞吐需求,团队还专门对缓存与内存子系统做了定制化设计,最终实现了1000亿参数大模型本地流畅运行的核心指标,全程无需上传任何用户数据。

这款芯片的落地场景几乎覆盖了所有对算力、隐私有高要求的智能设备:自动驾驶汽车可以本地处理多传感器数据做实时决策,政企涉密办公设备可以不用连网运行大模型处理内部文件,工业机器人也能脱离云端独立完成复杂任务。
不过作为初创公司的首款产品,GΞLIX 1目前仍面临适配生态不足的问题,后续需要对接更多大模型厂商、终端设备商做针对性优化,才能实现大规模商用。目前Acrab已经和3家国内头部智能车企、2家工业机器人厂商达成了试点合作,预计2026年第四季度就能看到搭载该芯片的商用设备落地。

本文基于公开信息分析整理,仅供参考。更多AI工具动态与行业解读,请持续关注本站更新。