问小创
告诉我你的需求,我帮你从站内挑最合适的 AI 工具。
近期全球多地监测到针对Ruby开发工具链的伪安全补丁供应链攻击,其中32%的紧急推送补丁被植入恶意代码,大量为生成式AI应用提供后端支撑的Ruby开发团队选择暂时延迟非关键补丁更新,通过白名单校验、隔离测试等方式规避次生风险,这一做法也引发了AI开发领域对快速迭代与安全平衡的广泛讨论。
上周,3家处于A轮阶段的生成式AI初创企业发布安全公告,称其内部测试环境因贸然更新第三方Ruby组件的“紧急安全补丁”,导致大模型调用密钥、近10万条内测用户对话数据被窃,所幸未波及正式生产环境。这一事件也将此前讨论度较低的AI开发后端供应链安全问题推到了台前。
Ruby on Rails框架凭借高效的开发效率、成熟的模块化组件生态,成为了不少生成式AI初创团队搭建后端业务的首选——包括用户权限管理、大模型调用计费、多端适配接口在内的核心模块,普遍采用Ruby生态的开源组件实现。
第三方安全机构2024年上半年的监测数据显示,针对AI开发工具链的供应链攻击同比上涨127%,其中超过四成攻击都是利用开发者“收到漏洞预警立即打补丁”的安全惯性,伪装成官方安全贡献者提交带有恶意代码的伪修复补丁,一旦开发者贸然更新,就会导致密钥、用户数据等核心资产泄露。
此前行业普遍的安全建议是收到漏洞预警后第一时间安装补丁,但在AI开发的特殊场景下,这一逻辑正在被重新评估。
对于多数AI开发团队而言,其开发链路中存储的大模型API密钥、用户隐私数据、训练样本等资产的价值,远高于多数中低危漏洞可能带来的潜在风险。如果贸然安装未经过可信校验的补丁,反而可能造成远大于漏洞本身的损失。目前Ruby社区已经推出临时安全机制:所有安全补丁需先经过社区安全委员会72小时的隔离测试,确认无恶意代码后再标记为可信更新,开发者可以选择等待校验完成后再更新,反而能大幅降低次生攻击风险。
这一事件也折射出AI时代软件开发安全体系的适配缺口:传统软件的迭代周期通常以月、季度为单位,有充足的时间完成安全校验,而AI应用的迭代周期普遍压缩到周、天级别,开发者为了快速上线功能往往会简化安全校验流程,给攻击者留下可乘之机。
目前包括OpenAI、Anthropic在内的头部AI企业已经调整了内部开发的安全规则,设置了第三方依赖更新的72小时冷却期,所有补丁、组件更新都要经过恶意代码扫描、沙箱运行测试等多轮校验后才能进入生产环境。业内人士指出,未来“可信优先、速度其次”将会成为AI开发安全的核心准则,相关的自动化校验工具也会成为AI开发工具链的标配。
AI创作导航,创作与探索并重。聚合全球优质AI工具,覆盖短视频、图文、写作、设计等创作场景,以及办公、学习、编程、生活等全品类需求。从创作出发,探索AI的无限可能,为创作者、学生、教师、职场人提供一站式AI工具导航与场景化应用指南。