问小创
告诉我你的需求,我帮你从站内挑最合适的 AI 工具。
一份第三方行业研究报告曝光,苹果App Store与谷歌Google Play两大全球主流移动应用商店的推荐算法,正在持续为违规AI nudify(AI脱衣)应用带来流量曝光。这类AI应用可未经授权生成他人裸体图像,严重侵犯公民肖像权与隐私,报告统计显示,过去12个月平台内这类违规应用的总下载量已经突破1000万次,算法推荐是其快速泛滥的核心推手。
调研团队梳理两大平台的应用分发数据发现,超过七成的热门违规AI脱衣应用,都获得过平台算法的官方推荐位曝光,包括搜索结果首页前置、同类应用推荐栏露出、热门分类推荐等。这些平台授予的流量位置,给违规应用带来了超过八成的新增下载量,形成了“初始绕审→起量→算法加持→进一步扩散”的完整增长链路。
实际上,这类AI脱衣应用明确违反两大应用商店关于有害内容、AI伦理的社区规则,之所以能持续获得推荐,核心问题出在平台现有的审核与推荐逻辑上。违规开发者通常会给应用套上“AI人像修图”“AI照片美化”的外壳,绕过初始的关键词审核与人工抽检,上线后再通过诱导分享、刷量等方式拉高互动数据。
现有平台推荐算法以流量数据为核心排序逻辑,并不会自动识别应用的实际违规属性,反而会给高互动应用更多曝光,形成了“劣币逐良”的正向循环,让违规应用越推越多,清理难度远高于传统违规应用。
这次事件并非个例,随着生成式AI技术门槛快速降低,各类套壳的违规AI应用正在各大移动平台泛滥,除了AI脱衣,还有用于诈骗的AI换脸应用、非法收集个人信息的AI聊天应用等,都在依靠类似的路径扩散。
业内观点认为,当前主流应用分发平台的审核规则,还停留在传统移动互联网的阶段,没有跟上生成式AI的发展节奏。未来不仅需要平台调整推荐算法的审核逻辑,增加对AI应用的动态核验,全行业也需要尽快明确AI应用的分类监管标准,堵住技术普及带来的伦理与隐私漏洞。
AI创作导航,创作与探索并重。聚合全球优质AI工具,覆盖短视频、图文、写作、设计等创作场景,以及办公、学习、编程、生活等全品类需求。从创作出发,探索AI的无限可能,为创作者、学生、教师、职场人提供一站式AI工具导航与场景化应用指南。