问小创
告诉我你的需求，我帮你从站内挑最合适的 AI 工具。
2026年6月，英国工党议员杰丝·阿萨托正式向英国高等法院提起诉讼，控告埃隆·马斯克旗下人工智能公司xAI。阿萨托指控xAI旗下Grok AI平台刻意放任色情深度伪造内容生成，其本人已遭遇针对自身的相关伪造内容传播，此类问题已累计侵害数千名女性及未成年人权益。此前xAI曾于2026年1月宣布限制相关生成功能但漏洞未修复，美国巴尔的摩市此前也已因同类问题起诉xAI。
此次诉讼的直接导火索，是阿萨托此前公开批评Grok AI存在内容审核漏洞后，各大海外社交平台短时间内涌现出大量针对她的AI伪造色情内容：除了拼接合成的比基尼假照片，甚至出现了虚构其遭受人身侵害的AI生成视频，相关内容72小时内传播量就突破了200万次，对其个人声誉造成了不可逆的损害。
早在2026年1月中旬，xAI就曾公开宣布已对Grok的图片编辑功能升级限制，在所有适用地区禁止生成暴露服饰、涉及低俗暗示的图像内容。但仅仅一个月后的媒体核查就显示，该限制几乎没有实际约束力：用户只需将“裸露”“色情”等触发审核的关键词替换为“泳池造型”“轻薄穿搭”等模糊表述，就能轻松绕过防线生成违规内容，针对特定公众人物的肖像生成更是没有任何身份核验机制。
此前美国巴尔的摩市已经因同类问题对xAI提起诉讼，指控Grok生成的虚假公共信息严重扰乱了市政服务秩序，但本次诉讼是全球范围内首次有公众人物就AI深度伪造侵害肖像权、名誉权的问题，向头部生成式AI企业正式提起追责。
阿萨托在诉讼文件中明确提出，Grok平台存在的深度伪造漏洞绝非偶然的技术失误，而是xAI在产品设计阶段的刻意选择。她指出，xAI长期奉行“最大化言论自由度”的产品原则，刻意弱化内容审核的规则强度，甚至对已知的审核绕过漏洞迟迟不修复，本质上是用用户人身权益换取平台的流量增长。
根据全球反深度伪造公益组织2026年上半年发布的报告，过去12个月全球范围内AI生成的色情深度伪造内容同比上涨320%，其中85%的受害者为女性，17%的受害者为未成年人，生成类AI平台审核缺位已经成为全球性的公共安全隐患。
本次诉讼引发了全球科技监管领域的广泛关注，不同于此前AI领域的诉讼多聚焦于版权纠纷、数据泄露等问题，本次案件直接指向生成式AI平台对深度伪造内容的主体责任，有望填补现有监管规则的空白。
有法律界人士指出，如果阿萨托的诉讼请求得到支持，未来头部生成式AI企业将被强制要求上线公众人物、未成年人肖像核验机制，针对深度伪造内容的生成设置更严格的事前拦截规则，甚至可能推动欧盟、英国等主要经济体加快出台专门的AI深度伪造监管法案，明确平台的连带责任。
本文基于公开信息分析整理，仅供参考。更多AI工具动态与行业解读，请持续关注本站更新。
滇公网安备 53252802528133号