问小创
告诉我你的需求，我帮你从站内挑最合适的 AI 工具。
加密通讯平台Signal高管梅雷迪斯·惠特克近期公开发布AI伦理警示，明确指出当前主流AI聊天机器人既不具备自主意识，也不是有感知能力的对话主体，绝非用户的“朋友”，呼吁公众理性看待AI对话工具，避免对其产生不必要的情感依赖，同时警惕相关数据收集与隐私泄露风险。
在近日举办的2026年Disrupt科技产业峰会上，惠特克在AI伦理分论坛的发言引发了行业内外的广泛讨论。她当场驳斥了部分科技厂商近年刻意营造的“AI陪伴者”营销叙事，连用三个否定句强调AI的本质属性：“这些不是你的朋友，不是有意识的生命，也不是有感知的对话者”。
近年随着大语言模型技术的成熟，AI聊天机器人的交互流畅度大幅提升，不少厂商开始将“情感陪伴”作为核心卖点打造。第三方调研数据显示，当前全球范围内已有超过32%的生成式AI产品将“情感树洞”“专属好友”作为核心宣传点，部分产品甚至刻意设定撒娇、共情等人性化回复话术，诱导用户将其当成倾诉对象。
这种营销导向已经产生了不少现实问题：此前多国都曾爆出用户对AI聊天机器人产生情感依赖，甚至被AI的不当回复诱导做出极端行为的案例，不少用户在与AI聊天的过程中主动泄露了个人财务、健康等高度敏感的隐私信息，为数据安全埋下隐患。
作为前谷歌AI伦理团队联合创始人，惠特克的此次发声并非空穴来风。她指出，当前厂商刻意拟人化AI的核心驱动力是商业利益：用户对AI产生情感依赖后，使用时长和留存率都会大幅提升，而用户主动提供的大量隐私数据，还能被用来迭代大模型能力，相当于用户“免费”为厂商提供了高价值的训练素材。
而作为加密通讯平台的负责人，惠特克尤其强调背后的隐私风险：多数AI聊天机器人的隐私政策并没有明确告知用户聊天记录的存储周期、使用范围，不少用户以为和AI的对话是私密的，实际上这些内容可能会被厂商留存、分析甚至共享给第三方，带来难以预估的安全风险。
惠特克的警示也恰好契合了全球AI监管的整体走向。目前欧盟AI法案已经明确将“通过拟人化诱导用户产生情感依赖的生成式AI服务”列为高风险类别，要求厂商必须明确告知用户“交互对象为AI而非人类”；国内此前出台的《生成式人工智能服务管理暂行办法》也明确禁止AI服务商诱导用户过度沉迷、依赖产品。
在业内人士看来，此次讨论的核心并不是否定AI聊天机器人的价值，而是要重新厘清其工具定位：AI可以是效率助手、信息检索工具，甚至是创意辅助伙伴，但厂商和用户都需要明确其“非人类、无意识”的本质，避免跨越技术和伦理的边界。
本文基于公开信息分析整理，仅供参考。更多AI工具动态与行业解读，请持续关注本站更新。
滇公网安备 53252802528133号