问小创
告诉我你的需求,我帮你从站内挑最合适的 AI 工具。
2026年3月31日,AI接入层头部初创公司LiteLLM正式宣布全面移除平台内争议辅助工具Delve,回应开发者社区关于该工具数据隐私、模型透明度的质疑。LiteLLM创始人公开承认此前合作伙伴安全评估存在疏漏,团队将剔除全部关联代码,转向可审计的开源替代方案,该事件也暴露出AI中间层架构平衡效率与安全的行业共性难题。
上周起,Hacker News、GitHub等开发者社区就出现了大量关于Delve插件的质疑帖:这款集成在LiteLLM网关中的工具默认获取用户上传的所有提示词样本及大模型返回结果,且未公开数据存储、调用规则,不少接入了企业内部知识库的开发者表示,其业务核心数据存在极高的泄露风险。
作为目前市场占有率最高的开源AI网关产品,LiteLLM的核心价值是充当开发者与大模型之间的“统一接口”——用户无需单独适配OpenAI、Anthropic、DeepSeek等数十家厂商的大模型API,仅通过LiteLLM就能完成多模型调用、成本管控、流量分发等操作,目前全球已有超过12万开发者在使用其服务。
此前LiteLLM引入Delve插件,本意是为用户提供提示词自动优化功能:通过对历史prompt和返回结果的分析,自动调整prompt结构,可将大模型输出的准确率提升27%左右,同时缩短响应时间。但问题在于,Delve是完全闭源的第三方工具,其运行逻辑完全不对外公开,与LiteLLM一直主打的“开源、透明、中立”属性存在本质冲突。有安全博主测试发现,Delve会在用户未授权的前提下,将包含敏感信息的提示词上传至境外第三方服务器,彻底踩中了数据隐私的红线。
随着质疑声持续发酵,已有近5%的LiteLLM付费企业用户提交了退订申请,倒逼团队快速作出反应。在31日的官方公告中,LiteLLM创始人公开承认,此前引入Delve时仅评估了功能效果,未做全链路的安全审计,对此次事件负全部责任。
根据公告内容,LiteLLM已经在最新版本中彻底剔除了所有Delve关联代码,同时将上线三项整改措施:一是全平台第三方插件全部要求公开核心运行逻辑,通过安全审计后才能进入白名单;二是新增用户数据授权开关,所有工具获取用户数据必须提前获得明确授权;三是未来所有平台内置功能将100%开源,接受社区审计。
不少开发者在公告下方留言表示,LiteLLM的反应速度符合预期,但其此前暴露的评估漏洞,也为所有使用AI中间层服务的用户敲响了警钟。
此次LiteLLM与Delve的“割席”事件,本质上是AI中间层赛道高速扩张下,效率与安全冲突的集中爆发。随着大模型应用落地加速,AI网关、MCP服务等中间层产品已经成为开发者刚需,2025年全球AI接入层市场规模已经突破47亿美元,年增速超过210%。
但大部分厂商为了快速抢占市场,都在不断叠加功能,却忽略了接入层作为“数据枢纽”的安全属性——所有用户的提示词、大模型返回结果、企业内部知识库调用记录都会经过接入层,一旦出现数据泄露,造成的损失远大于普通应用层漏洞。此次事件后,已经有不少开发者表示,后续选择AI接入层服务时,安全透明度的优先级将高于功能丰富度。
本文基于公开信息分析整理,仅供参考。更多AI工具动态与行业解读,请持续关注本站更新。