AI 问小创

你好,我是问小创 AI 助手

告诉我你的需求,我帮你从站内挑最合适的 AI 工具。

推荐结果基于站内收录,仅供参考,请以实际工具信息为准。
猜你想问
推荐一些AI写作工具 有什么AI绘画工具? 推荐视频剪辑AI工具
AI
问小创: 告诉我你的需求,我帮你从站内挑最合适的 AI 工具。

AI安全争议升温 辛顿等三位泰斗呼吁守住开源发展路线

在近日举办的Ai4全球人工智能峰会上,Geoffrey Hinton、李飞飞、Andrew Ng三位全球顶尖AI学者就行业热议的监管尺度、开源准入规则、中美AI产业竞争力等议题展开深度讨论。当前全球AI安全担忧持续升温,开源AI模型市场占比已达62%,三人一致认为开源路线是平衡技术安全与创新效率、维持产业竞争力的核心路径。

配图

这场公开辩论是本届Ai4峰会的压轴环节,上座率远超同期其他论坛,也是有“AI教父”之称的Geoffrey Hinton今年多次公开警示通用人工智能失控风险后,首次系统阐述自己对开源发展路线的态度,打破了此前外界对其“支持全面限制AI研发”的误解。

近一年来,全球各国的AI监管政策密集落地,欧盟《人工智能法案》已进入执行阶段,美国白宫也连续发布行政命令收紧高能力AI模型的研发与发布要求,叠加多个头部厂商的闭源大模型被曝存在安全漏洞,全行业对AI技术风险的讨论热度持续走高。

与此同时,中国AI产业的迭代速度超出美国产业界预期,文心一言、通义千问等大模型的能力追平GPT-4的同时,相关开源模型的下载量已经突破1亿次,美国本土产业界普遍担忧过度监管会拖慢创新速度,削弱自身在全球AI竞赛中的优势。

针对“是否应该限制高能力AI模型开源”的核心争议,三位学者给出了高度一致的答案。李飞飞在发言中指出,开源生态的分布式安全排查效率远高于单一闭源厂商的内部自查,历史数据显示开源项目的漏洞修复速度比闭源项目快2.7倍,更多研究者的参与反而能降低技术的不可控风险。

Andrew Ng则从产业落地的角度补充,去年美国新成立的AI应用初创企业中,有83%的产品基于开源模型开发,一旦全面限制开源,相当于直接切断了中小开发者的技术供给,会严重影响AI技术在医疗、教育等垂直领域的落地效率。

辛顿则明确表示,自己反对的是无监管的无序研发,而非开源路线,完全闭源只会让高能力AI技术垄断在少数几家科技巨头手中,反而会提升技术滥用的风险,更不利于全球AI安全治理的协作。

三位学者也在辩论中对监管层提出了明确建议,呼吁监管政策避免“一刀切”,针对不同能力等级的AI模型建立分层的准入规则:对能力接近AGI的通用大模型,设置明确的安全评估门槛后方可开源;对参数低于100亿的垂直领域小模型,放开开源限制,鼓励中小开发者参与创新。

三人同时提到,美国政府应该加大对开源AI社区的资金与政策支持,提升本土开源生态的竞争力,才能在和中国的AI技术竞赛中守住领先优势,同时避免因过度监管扼杀产业创新活力。

本文基于公开信息分析整理,仅供参考。更多AI工具动态与行业解读,请持续关注本站更新。