问小创
告诉我你的需求，我帮你从站内挑最合适的 AI 工具。
近期科技巨头Meta被曝出正在研发一套基于大语言模型与多模态计算机视觉技术的新型用户监控体系，该方案可跨Instagram、Facebook、WhatsApp三大平台抓取用户全量行为数据并自动标记风险行为，测试数据显示其行为识别准确率达92%，相关计划曝光后迅速引发全球隐私保护组织、科技从业者的集体质疑，被批为“反乌托邦式的技术滥用”。
此次曝光的监控方案细节来自Meta内部流出的2024年第二季度研发进度文档，整套系统的研发周期已超过18个月，累计投入研发成本超2.1亿美元，原计划于2024年第四季度率先在北美地区开启小范围灰度测试。
过去三年间，Meta因用户数据违规收集、隐私保护不力等问题已累计被欧盟监管机构罚款超23亿欧元，仅2023年就因违反《通用数据保护条例》（GDPR）领到12亿欧元的天价罚单。按照此前Meta对外公布的技术路线，其AI技术投入原本主要聚焦于生成式AI工具、VR社交场景两大方向，此次监控体系的曝光完全超出行业预期。
有行业分析师指出，Meta之所以顶着监管压力推进相关研发，本质上是为了降低平台内容审核成本——此前Meta每年投入的人工审核成本超50亿美元，若AI监控体系全面上线，相关成本有望压缩40%以上。
从流出的技术文档来看，这套AI监控体系的能力已经远超出常规内容审核的范畴：除了识别用户发布的图文、音视频中的违规内容，系统还会基于用户的点赞、浏览、私信互动轨迹构建用户行为画像，预判所谓“潜在违规风险”，甚至会对用户提及的线下聚集活动自动标记并上报给相关部门。
负责数字人权保护的非政府组织Access Now公开表态称，这套系统一旦落地，将成为人类历史上覆盖面最广的民用监控工具之一，完全突破了科技企业的技术伦理边界。目前已有超10万用户在请愿网站签名，要求Meta立刻停止相关研发计划。
随着欧盟《人工智能法案》在2024年正式生效，用于社会监控、用户行为预判的AI系统已被明确列为“高风险AI应用”，上线前必须通过严格的合规审核，且不得随意采集超出服务范围的用户数据。
有接近Meta的行业人士透露，目前Meta内部已经开始评估相关方案的合规风险，不排除调整研发方向的可能性，将技术能力限定在常规内容审核范畴内。而此次事件也再次引发行业讨论：AI技术的落地必须以用户隐私保护为前提，任何突破伦理边界的技术应用最终都会遭到用户和监管的双重抵制。
本文基于公开信息分析整理，仅供参考。更多AI工具动态与行业解读，请持续关注本站更新。
滇公网安备 53252802528133号