近日，视频会议服务商Zoom正式推出面向会议场景的AI身份检测功能，可在参会过程中实时识别AI生成的冒充参会者，旨在打击近期频发的深度伪造参会诈骗、AI机器人恶意蹭会等行为。该功能目前已向所有付费企业版用户开放测试，预计2024年底完成全量推送，据Zoom内部安全团队统计，近一年全球会议中AI冒充事件增长超320%。
随着生成式AI技术的普及，深度伪造人脸、AI自动参会机器人的制作门槛已经降到普通人可及的范围。不少诈骗分子会盗用企业高管的公开社交素材，生成AI虚拟形象混入内部会议，窃取未公开的商业信息；也有部分职场人使用AI分身代参会，无形中加大了会议敏感信息泄露的风险。
据Zoom此前面向企业客户的调研，超过76%的企业安全负责人表示，已经遇到过AI冒充参会的可疑事件，近九成企业愿意为会议身份安全功能额外付费。远程办公常态化之后，线上会议的安全边界正在被AI技术打破，传统的账号密码验证已经无法拦截AI身份冒充。
和以往需要参会者完成验证码、指定动作等交互式验证不同，Zoom这次推出的AI检测功能属于被动无感知检测，全程不需要参会者做出额外操作，也不需要摄像头以外的额外硬件支持。
该功能的技术核心是Zoom训练的专属AI分类模型，专门学习AI生成人脸的微表情、生理动作破绽，能在0.3秒内完成单帧画面的识别，整体准确率达到98.7%，对目前主流的AI换脸、AI生成虚拟人都能有效识别。一旦系统识别出疑似AI冒充账号，会自动向会议主持人发出提醒，由主持人决定是否将账号移出会议。
实际上，AI身份安全已经成为全球云协作平台的共同布局方向，微软Teams、谷歌Meet等头部厂商近期都披露了针对深度伪造诈骗的防护研发计划，AI身份检测正在成为To B企业协作服务的新竞争力。
业内分析师认为，生成式AI对日常办公场景的渗透速度超出预期，人机身份边界模糊带来的安全问题会在未来两年持续凸显，相关检测防护技术最终会成为所有线上协作工具的标配功能。接下来Zoom还计划将该检测技术拓展到线上直播、大型招聘会、远程面试等更多场景，覆盖更多AI冒充风险点。
本文基于公开信息分析整理，仅供参考。更多AI工具动态与行业解读，请持续关注本站更新。
滇公网安备 53252802528133号