问小创
告诉我你的需求，我帮你从站内挑最合适的 AI 工具。
2026年5月，知名大模型厂商DeepSeek旗下网页版产品出现用户输入特定特殊字符后自动生成无关文本的异常现象，引发大范围关于对话隐私泄露的公众担忧。DeepSeek技术团队耗时36小时完成全链路排查后正式对外回应，确认该异常属于特殊输入触发的定向模型幻觉，不存在任何用户数据泄露的安全漏洞。
在国内头部技术社区的相关讨论帖下，已经有超过百名用户晒出了自己测试复现异常的截图：仅输入一串无意义的特殊字符组合，没有附带任何有效提问，DeepSeek网页版就会立刻返回一段风格迥异、和用户此前对话完全无关的文本，部分内容甚至带有极强的私人属性，瞬间点燃了公众对隐私安全的顾虑。
此次异常最早由一名大模型重度用户在小众测试论坛分享，在两天内迅速扩散到多个公域社交平台，不少用户出于好奇尝试复现，进一步扩大了事件的传播范围。由于跳出的文本大多符合真实用户提问的表述逻辑，不少网友默认这是大模型后台出现了数据泄露漏洞，甚至有大量用户主动清空了自己的对话历史，避免私人信息暴露。
DeepSeek技术团队第一时间启动安全应急响应机制，先后排查了对话数据库存储逻辑、前端请求链路、大模型推理层全模块日志，最终定位到异常根源。
此次异常完全是特定低概率特殊字符序列触发大语言模型注意力层权重偏移，进而生成训练集中无关片段的定向幻觉，全程不存在任何用户数据越权调取、泄露的情况。团队同时补充说明，所有用户的对话数据都采用端到端加密存储，不可能通过简单的输入指令直接调取其他用户的私人对话内容。
针对此次暴露的问题，DeepSeek已经开启专项优化工作，将新增数十万条特殊字符、无意义符号类的边缘场景样本加入训练集，重点优化注意力机制的异常触发拦截逻辑，预计将在两周内推送全量模型更新，彻底修复该漏洞。
事实上，近半年来国内外多个主流大模型都曝出了类似特殊输入触发异常生成的案例，这类属于边缘场景的幻觉漏洞，正在成为大模型商业化落地过程中行业共同攻坚的核心议题。不少行业从业者也表示，过去大模型的能力测试大多聚焦常规问答场景，未来针对极低概率的特殊输入、prompt注入类场景的测试覆盖度还需要大幅提升，才能进一步强化大模型的安全底座。
本文基于公开信息分析整理，仅供参考。更多AI工具动态与行业解读，请持续关注本站更新。
滇公网安备 53252802528133号