我可以帮您推荐合适的AI工具，有什么需要帮忙的吗？
美国一名遭受长期跟踪骚扰的女性近日对人工智能公司OpenAI提起诉讼，指控该公司旗下生成式AI产品ChatGPT直接助长了前任伴侣对她的持续迫害。原告称施暴者借助ChatGPT构建了针对她的妄想叙事，而OpenAI在接到包括触发自身大规模伤亡风险标记在内的三次预警后，始终未采取任何干预措施。这起案件也成为全球首例直指大语言模型安全漏洞纵容暴力犯罪的公共诉讼。
根据原告提交的诉讼文件，涉案施暴者在与原告分手后，长期通过ChatGPT输出针对原告的跟踪、骚扰计划，还借助AI不断强化“原告迫害自己”的妄想逻辑，一步步固化了施暴动机。原告在发现施暴者的相关对话内容后，先后三次向OpenAI官方举报该账号的高风险内容，其中有一次对话甚至直接触发了OpenAI内置的**大规模伤亡风险自动标记**，但平台始终没有对该账号采取任何限制措施，也没有回应原告的安全预警，最终施暴者得以持续对原告实施跟踪骚扰行为。
这起诉讼并非AI领域首例法律纠纷，但却是全球范围内首次将AI产品的审核失职与现实人身伤害直接绑定的标志性案件。近年来生成式AI迎来爆发式增长，以OpenAI为代表的头部厂商的内容审核机制一直饱受争议：一方面常因过度审核正常内容引发普通用户不满，另一方面却频频漏掉针对具体个人的暴力、骚扰类个性化风险。
多名AI安全研究者此前就指出，当前主流大模型的风险审核多依赖通用关键词触发，针对定制化的暴力计划、跟踪方案往往识别不足，而平台的人工复核环节响应效率极低，根本无法应对紧急的人身安全风险。
业内普遍认为，这起案件的最终走向将会对全球AI行业的安全责任界定产生深远影响。目前欧盟《人工智能法案》已经明确要求高风险AI产品必须建立完善的风险处置机制，美国也在推动针对生成式AI的安全问责法案，这起诉讼无疑会给监管层提供极具代表性的现实案例，推动行业加快建立“用户预警-人工复核-账号处置”的全链条紧急安全响应流程。
对于普通用户而言，这起案件也再次印证：AI产品的安全漏洞绝非抽象的技术问题，很可能会直接转化为现实世界的人身伤害风险，头部AI厂商必须承担起更明确、更及时的安全防护责任。
本文基于公开信息分析整理，仅供参考。更多AI工具动态与行业解读，请持续关注本站更新。
滇公网安备 53252802528133号