问小创
告诉我你的需求，我帮你从站内挑最合适的 AI 工具。
美国当地时间2026年8月1日，法院正式驳回马斯克旗下xAI公司提出的紧急禁令申请，明尼苏达州限制AI“脱衣”（nudify）类图像生成应用的新规将按期推行。该类应用可通过AI算法生成普通人的虚假裸照，此前已有多起相关隐私侵权、网络霸凌案件引发公众抗议，xAI此前称该禁令违反言论自由原则，此番败诉也为各州同类监管提供了参考判例。
此次明尼苏达州拟落地的禁令，明确要求所有可生成非同意虚假裸露内容的AI工具不得向本州用户开放，违者将面临最高2万美元的单次罚款。该州议会是在今年5月收到超过300起普通民众、尤其是未成年女性遭AI换脸裸照勒索、霸凌的投诉后，才启动的立法程序，原本计划于8月15日正式生效，此前因xAI的上诉暂时搁置。
xAI此次发起诉讼的核心依据是美国宪法第一修正案的言论自由条款，其代理律师在庭审中表示，生成式AI的内容输出属于用户的言论表达范畴，政府不能直接禁止工具本身，仅能追究滥用工具的用户责任。xAI还提到，其旗下Grok多模态模型具备图像生成能力，如果禁令落地，其需要对明尼苏达州用户关闭所有图像生成功能，年营收损失将超过1200万美元。
但审理此案的法官在判决书中明确指出，这类“一键脱衣”工具的主流使用场景就是侵犯他人隐私权，不存在具备社会价值的合理应用场景，xAI提出的“技术中立”抗辩并不成立。同时法官认为，xAI完全可以通过升级内容审核规则、禁止生成裸露内容等方式符合监管要求，所谓的“不可挽回损失”属于企业应当承担的合规成本，因此驳回了其临时禁令申请。
此次诉讼是美国科技公司首次正式挑战地方政府的AI深度伪造监管法案，背后是全球范围内AI生成色情内容侵权事件的爆发式增长。根据FBI2025年发布的网络安全报告，当年美国境内AI生成非同意色情内容的报案量同比上涨320%，受害者中87%为女性，近4成是未成年人，而由于受害者普遍存在羞耻心理，业内估算实际侵权数量是公开报案量的5倍以上。
此前OpenAI、MidJourney等头部生成式AI厂商已经主动收紧了内容审核规则，一方面禁止模型生成裸露内容，另一方面也限制用户上传普通人的肖像生成相关内容。而xAI旗下Grok模型的审核规则此前相对宽松，这也是其成为首个挑战监管的厂商的核心原因。
此次判决的标志性意义在于，它首次在司法层面否定了“只要是通用技术就可以免责”的逻辑，明确了当某类技术的主要应用场景为侵权时，监管方有权直接限制其流通，相关厂商需要承担事前审核的义务，而不能将所有责任推给用户。
业内普遍认为，此次判例将成为美国各州同类监管的重要参考，预计未来半年内至少会有12个州跟进推出类似的AI色情深度伪造禁令，全球范围内的生成式AI监管也将从原则性框架进入落地执行阶段，未来厂商在产品设计阶段就需要嵌入风险防控机制，将成为行业标配。
本文基于公开信息分析整理，仅供参考。更多AI工具动态与行业解读，请持续关注本站更新。
滇公网安备 53252802528133号