问小创
告诉我你的需求,我帮你从站内挑最合适的 AI 工具。
以OpenAI为代表的全球大模型厂商当前算力缺口年增速超70%,多地超大型集中式数据中心落地因能耗、用地争议持续受阻,资深AI基础设施分析师张辰近期提出全新落地构想,将家庭闲置的AI边缘设备组网形成分布式算力池,可降低30%以上新增算力投入成本,快速填补集中式算力的供给缺口。
2024年第二季度,北美共有6个总投资超22亿美元的万卡级AI数据中心项目因社区碳排放抗议、能耗指标不足暂停审批,这类过去被视为“香饽饽”的科技基建项目,如今正在全球各地遭遇越来越强的落地阻力。
过去三年生成式AI的爆发,让整个行业陷入了对算力的狂热追逐,从OpenAI的下一代多模态大模型,到DeepSeek的开源大模型生态,所有产品的迭代都依赖更高密度的算力集群支撑。但在算力需求年增速突破70%的同时,可供大型数据中心使用的土地、市电配额、碳排放指标的年增速不足20%,刚性资源约束已经成为算力供给的最大短板。不少中小AI创业公司反映,当前商用推理算力的租赁价格相比2023年初已经上涨超过40%,高企的算力成本正在拖慢全行业的落地节奏。
此前业内普遍认为,家用端的算力设备分散、家用宽带延迟波动大,完全无法满足AI任务的调度要求。但最新的分布式边缘调度算法,已经可以将大模型推理任务拆分为数十个轻量化子模块,分配给不同家庭的AI PC、搭载NPU的家用NAS、智能路由器并行处理,在国内千兆宽带普及率超过70%的现状下,端到端的任务延迟可以稳定控制在200毫秒以内,完全满足文生图、通用AI对话等绝大多数商用场景的要求。
测试数据显示,普通家庭闲置的RTX 4090级别的消费级显卡,接入合规调度网络后每年贡献的算力可带来2000-4500元的额外收益,对普通用户具备足够的参与吸引力。
很多人将这套家用算力方案和此前的比特币挖矿类比,但二者有着本质区别:这套分布式网络只会调度用户已经处于开机闲置状态的算力资源,不会强制设备长时间满负载运行,甚至可以对接居民侧的分时电价机制,优先在风电、光伏等绿电富余的夜间时段调度算力,反而能提升全社会的绿电消纳比例。据行业测算,如果这套模式能在未来3年完成规模化落地,有望在2027年占到全国AI推理总算力的15%以上份额,将全行业的平均算力使用成本下拉25%左右。
AI创作导航,创作与探索并重。聚合全球优质AI工具,覆盖短视频、图文、写作、设计等创作场景,以及办公、学习、编程、生活等全品类需求。从创作出发,探索AI的无限可能,为创作者、学生、教师、职场人提供一站式AI工具导航与场景化应用指南。