AI 问小创

你好,我是问小创 AI 助手

告诉我你的需求,我帮你从站内挑最合适的 AI 工具。

推荐结果基于站内收录,仅供参考,请以实际工具信息为准。
猜你想问
推荐一些AI写作工具 有什么AI绘画工具? 推荐视频剪辑AI工具
AI
问小创: 告诉我你的需求,我帮你从站内挑最合适的 AI 工具。

Pangram CEO Max Spero深度拆解AI检测技术落地核心难题

Pangram联合创始人兼首席执行官Max Spero近日做客科技行业知名播客Equity,围绕AI检测工具的技术落地瓶颈、商业化应用前景展开深度分享,重点探讨了AI辅助创作与AI生成内容的边界界定问题,直指当前全球AI内容鉴别体系普遍存在的标准模糊、场景适配性不足等核心痛点。

生成式AI的普及正在倒逼内容监管体系快速迭代,来自教育、版权、互联网内容平台的需求,让AI检测这条此前偏小众的赛道在近两年迅速走到聚光灯下,但几乎所有使用者都曾吐槽过相关工具的准确性问题:学生微调过的AI生成论文、创作者借助AI润色的原创内容,常常要么被误判要么完全检测不出来。

据第三方调研机构此前发布的报告显示,2024年全球AI检测工具的市场规模已达3.2亿美元,年同比增速高达127%,仅教育领域的采购量就同比增长了210%。但高速扩张的市场背后,是检测效果不达预期的普遍现状:当前主流消费级AI检测工具的平均准确率仅为68%,针对经过改写、语序调整的AI生成内容,漏检率更是超过40%。

更棘手的是整个行业至今没有统一的判定标准:究竟完全由AI生成的内容才属于“AI内容”,还是只要借助了AI工具辅助就算?不同场景的判定尺度差异极大,学术出版领域要求近乎零AI参与,而商业内容创作场景中,AI辅助写大纲、润色文字已经是行业标配,一刀切的判定方式完全不具备可行性。

在Max Spero看来,当前AI检测工具的最大误区,就是陷入了“非真即假”的二元判定逻辑,这和当前内容生产的实际情况完全脱节。“现在的内容创作早就不是要么全人写要么全AI写的状态了,很多创作者会用AI找素材、搭框架、改措辞,AI的参与度从10%到90%都有可能,单纯靠比对文本特征根本没法给出准确的判定。”

他同时提到,大模型的快速迭代也在不断拉高AI检测的技术门槛:每推出一款新的大模型,检测工具就需要重新采集该模型的输出特征、更新训练数据集,跟不上迭代速度的中小厂商只能靠旧的特征库蒙混,检测准确率自然会持续跳水。

Max Spero透露,Pangram目前已经放弃了此前“非真即假”的二元判定逻辑,转而研发AI参与度分级体系,根据内容中AI的参与比例给出0-100%的分值,不同应用场景可以自行设定阈值:比如学术场景可以设置阈值为10%,超过则判定为不合规,而营销内容场景可以把阈值放宽到50%,兼顾合规需求和生产效率。

目前包括Pangram在内的十余家AI检测企业、互联网内容平台、高校学术机构已经启动相关行业标准的制定工作,首个通用级的AI内容参与度评估框架预计将在2025年上半年正式推出,后续有望应用到学术出版、内容平台原创审核、招聘笔试题筛查等多个场景。

本文基于公开信息分析整理,仅供参考。更多AI工具动态与行业解读,请持续关注本站更新。