2026年3月20日，Meta正式宣布在全球范围内加速部署AI内容执法系统，主打打击恐怖主义、儿童剥削、诈骗等多类违规内容。测试数据显示，该系统成人性骚扰内容检测效率达传统人工团队2倍，错误率降低超60%，每日可识别缓解约5000起诈骗企图，同时同步推出基于Meta AI的7×24小时智能支持助手。
全球社交平台的内容治理难题，正在迎来AI技术给出的新解法。过去十余年间，包括Meta旗下Facebook、Instagram在内的全球社交产品，长期被违规内容泛滥、人工审核成本高企、审核员心理健康受损等问题困扰，仅2025年Meta就因内容审核疏漏收到欧盟地区超过12亿欧元的罚单，技术升级早已迫在眉睫。
此前Meta的内容审核体系以第三方人工审核团队为主，数据显示该类岗位年离职率高达42%，大量审核员因长期接触暴力、色情等极端内容出现心理创伤。同时面对诈骗分子不断迭代的伪装话术、敌对势力动态调整的违规内容传播策略，人工审核的响应速度往往滞后3-7天，大量违规内容在完成大规模传播后才被删除，平台治理始终处于被动状态。
随着欧盟《数字服务法》等监管规则落地，平台对违规内容的处置时效、检测覆盖率要求进一步提升，此前的人工审核模式已经无法满足合规要求，这也成为Meta加速落地AI审核系统的直接动因。
本次上线的AI内容执法系统，是Meta首次将多模态大模型全面应用到全品类内容审核场景，标志着其内容治理逻辑从“人工为主、AI为辅”转向“AI为主、人工兜底”。
在内部测试中，该系统对成人性骚扰内容的检测效率达到传统人工审核团队的2倍，误判率较此前的旧AI审核系统降低超过60%。针对近年高发的身份冒充、账号诈骗问题，系统可通过监测登录位置、密码修改行为、内容发布特征等异常信号，每日识别并拦截约5000起诈骗企图，大幅降低了公众人物、企业官方账号的被盗风险。
按照Meta公布的分工方案，未来AI将承担全部重复内容筛查、高危内容首轮审核等高强度工作，人类审核团队将全面转向后端，负责AI模型训练优化、审核结果评估、用户申诉处理等高复杂度、高风险决策环节，既降低了人工接触极端内容的概率，也将整体审核效率提升了3倍以上。
与AI内容执法系统同步上线的还有基于Meta AI打造的7×24小时智能支持助手，目前已覆盖Facebook、Instagram全量用户，可响应用户的违规内容举报、申诉进度查询、账号安全咨询等全类需求，预计将用户相关问题的平均响应时长从此前的24小时缩短至1分钟以内。
Meta相关负责人透露，后续这套智能助手还将接入AI审核的全流程数据，用户可直接向助手查询内容被判定违规的具体依据、申诉流程等信息，进一步提升治理透明度。
目前Meta已经在和欧盟、美国等地区的监管部门对接，验证AI内容执法系统的合规性，后续计划每季度发布AI审核透明度报告，公开误判率、覆盖品类、申诉通过率等核心数据，接受公众监督。
行业普遍认为，Meta本次的技术落地为全球互联网平台的内容治理提供了可参考的样本，未来这套AI审核能力还有可能对外开放，输出给更多中小型内容平台，降低全行业的内容治理成本。不过也有隐私与言论自由领域的专家提醒，需要警惕AI审核的算法黑箱问题，避免算法偏见导致的不合理内容删除。
本文基于公开信息分析整理，仅供参考。更多AI工具动态与行业解读，请持续关注本站更新。
滇公网安备 53252802528133号