2026年7月，马斯克旗下AI公司xAI正式向得克萨斯州联邦法院提交诉状，起诉曾因性剥削未成年人被捕的南卡罗来纳州男子特里·哈伍德，指控其违反服务条款，滥用Grok上传普通照片生成儿童性虐待相关深度伪造内容。截至起诉前，xAI已封停超5万个同类违规账户，相关治理已促成244人被捕，该案是AI企业主动起诉用户滥用工具生成非法色情内容的标志性案例。
根据公开的诉状内容，哈伍德的违规行为可追溯至2026年年初，今年2月他就因涉嫌性剥削未成年人被当地警方逮捕，xAI通过后台日志排查确认，被捕前3个月内，他先后上传了17张身边未成年人及成年熟人的公开社交照片至Grok图像生成模块，试图生成对应主体的深度伪造色情内容，其中涉及未成年人的素材占比超过60%。
在过往的生成式AI违规事件中，平台通常以封停账号作为主要处置手段，极少主动对违规用户提起民事诉讼，此次xAI的动作被业内视为AI平台合规逻辑的重要转向。
xAI在诉状中明确提出两项核心诉求：一是要求法院判令哈伍德支付金额尚未确定的惩罚性赔偿金，二是永久禁止哈伍德使用所有xAI旗下服务。诉状中特别提到，“被告经过蓄意策划，把原告的工具变成了犯罪武器”，其行为不仅违反了用户服务协议，也对平台声誉及受害人群体造成了不可逆的伤害。
xAI相关负责人透露，此次起诉并非个例，过去半年中，平台已经累计封停了超5万个涉及生成非法色情内容的违规账户，后续也将对其中情节恶劣的主体陆续提起诉讼。
此次诉讼的背景，是全球监管层对生成式AI涉色情、涉虐童内容的监管力度持续升级，包括欧盟AI法案、美国各州的深度伪造监管法案，都明确要求AI平台承担内容前置审核的责任，同时对作恶用户的追责也有了更明确的法律依据。
截至目前，xAI已经和全球17个国家的执法部门建立了违规线索共享机制，过去一年中，平台提交的用户违规线索已经促成244名涉案人员被捕，覆盖了非同意色情深度伪造、儿童性虐待材料生成等多个非法领域。
行业分析人士指出，xAI的这一系列动作，本质上是在构建“平台审核-线索移交-司法追责”的完整治理链条，改变了过往平台单独承担监管压力的局面。
长期以来，生成式AI的权责划分一直是行业争议焦点：用户滥用工具作恶，平台到底需要承担多少责任？此次xAI主动起诉违规用户，实际上是在现有法律框架下，明确了“平台履行审核义务后，恶意用户需为自身行为承担全部责任”的逻辑，对全行业都有参考价值。
可以预见的是，未来会有更多AI平台效仿这一模式，将对恶意用户的法律追责纳入自身合规体系，一方面能提升违规成本，震慑潜在的作恶者，另一方面也能为平台合理减负，避免因个别用户的恶意行为承担过度责任。
本文基于公开信息分析整理，仅供参考。更多AI工具动态与行业解读，请持续关注本站更新。
滇公网安备 53252802528133号