问小创
告诉我你的需求，我帮你从站内挑最合适的 AI 工具。
美国加利福尼亚州州长加文·纽森于2026年9月10日正式签署一揽子AI安全监管法案，要求万亿参数级前沿大模型上线前必须完成红队演练与第三方审计，强化风险评估与透明度披露，防范灾难性网络攻击。该立法打破科技企业与监管方的对立惯性，罕见获得OpenAI、Anthropic等硅谷头部AI厂商的公开背书支持。
过去三年，美国国会围绕联邦级AI监管法案的博弈始终处于胶着状态：科技厂商担心过度监管限制创新节奏，国家安全部门则担忧通用大模型的失控风险，双方拉锯下相关立法始终未能进入正式表决流程。而作为硅谷所在地，加州聚集了全球七成以上头部AI研发企业，第三方调研数据显示当地AI产业产值占全美总量的68%，其地方立法的实际影响力早已超出州界，大概率将成为全球AI监管的参考标杆。
本次签署的多项法案首次明确了前沿基础模型的法定安全标准，核心监管对象为参数规模超过1万亿的通用基础模型。法案要求这类超大规模模型在正式面向公众开放或商用上线前，必须完成两项强制流程：一是由独立第三方机构开展全维度安全审计，覆盖内容风险、网络安全漏洞、滥用风险等多个维度；二是由专业红队开展对抗性测试，模拟极端场景下模型被恶意利用的可能性，尤其是针对关键基础设施攻击、生化武器研发指导、大规模深度伪造等灾难性风险场景的测试。
法案同时要求相关企业公开模型的训练数据来源范围、算力消耗规模等核心透明度信息，不得隐瞒已知的安全漏洞。
本次立法最受行业关注的特点，是打破了过往科技企业与监管方的对立惯性。此前对监管普遍持保留态度的OpenAI、Anthropic等头部企业，全程参与了法案的修订讨论，并且在法案通过后公开发声表示支持。
Anthropic公共政策负责人此前在听证会上就曾表示，统一的安全标准能够减少企业跨区域合规的成本，对行业长期发展利大于弊。也有行业分析师指出，头部企业本身已经在内部开展了类似的安全测试，监管落地反而能抬高行业准入门槛，挤压中小厂商野蛮生长的空间，同时也能降低企业后续的安全事故责任风险。
目前全球各国的AI监管都处于探索阶段，欧盟AI法案的分类监管思路已经落地，而加州这套针对超大规模模型的强制测试机制，填补了前沿基础模型监管的空白。
有国内AI行业人士指出，我国已经出台的《生成式人工智能服务管理暂行办法》也确立了安全为先的监管思路，后续针对超大规模基础模型的细化规则也有望参考本次加州立法的实践经验。不过业内也普遍提醒，监管需要把握好尺度，避免过度限制中小团队的创新活力，在安全和发展之间找到动态平衡点。
滇公网安备 53252802528133号