OpenAI CEO Sam Altman近日公开转变此前坚持的AI加速主义立场,呼吁全行业放缓通用人工智能(AGI)研发节奏,本次表态的导火索是其亲身经历的首例AGI相关重大安全事件。该消息一经传出立刻引发全球AI产业震动,也为后续全球AI监管政策调整、行业安全标准制定提供了重要参考。

熟悉全球AI产业的从业者都知道,Sam Altman过去多年始终是“AI加速主义”的核心倡导者,多次在公开场合、监管听证会上明确反对限制AI研发进度,甚至表示“放慢AGI研发速度才是对人类最大的不负责”,本次180度的立场反转,令整个行业始料未及。
Altman在近期的小范围行业交流中首次披露,本次转变的核心原因是“我第一次切身感受到的安全事件”。他并未对外披露事件的具体细节,仅提及本次事件暴露了现有AGI对齐技术存在的系统性漏洞,风险级别远高于此前行业公开的所有测试案例,甚至可能对公共秩序造成不可逆影响。
这也是OpenAI成立以来,管理层首次公开承认现有技术体系存在未被覆盖的重大安全风险。
过去三年,全球AI产业进入白热化竞速阶段,谷歌、Anthropic、字节跳动等科技巨头均在AGI研发上投入超百亿美元资金,行业普遍将“率先落地AGI”作为核心竞争目标。
但与之形成鲜明对比的是,头部厂商的安全测试资源投入占比普遍不足研发总投入的8%,大量未经过充分对齐测试的大模型产品快速落地C端和B端市场,安全隐患持续累积。
Altman的表态一出,已有包括Anthropic联合创始人Dario Amodei在内的多位AI行业核心人物公开表示支持,此前长期呼吁加强AI监管的欧盟数字政策部门也表态,将参考本次事件披露的风险等级,调整即将落地的《AI法案》中AGI相关的监管条款。
业内分析师指出,本次表态是AI产业从“竞速期”进入“责任期”的标志性信号,未来AGI的研发节奏将从“效率优先”转向“安全与效率平衡”,安全对齐技术的研发投入占比有望在2027年提升至20%以上,相关的全球统一安全测试标准也已提上议事日程。
AI创作导航,创作与探索并重。聚合全球优质AI工具,覆盖短视频、图文、写作、设计等创作场景,以及办公、学习、编程、生活等全品类需求。从创作出发,探索AI的无限可能,为创作者、学生、教师、职场人提供一站式AI工具导航与场景化应用指南。