我可以帮您推荐合适的AI工具，有什么需要帮忙的吗？
近日，MIT科技评论发起面向全球AI领域研究者、产业从业者的专项圆桌讨论，共汇集来自OpenAI、DeepMind、Anthropic等头部机构的47名核心专家，针对通用人工智能（AGI）发展可能带来的灭绝级生存风险展开多轮辩论，超6成受访专家认为当前AI发展路径存在未被充分评估的长期安全隐患，相关讨论成果已同步提交至全球AI治理委员会参考。
进入2026年，全球通用人工智能（AGI）研发竞速进入新阶段：OpenAI此前确认GPT-5训练已完成过半，DeepMind新一代Gemini模型在多模态推理能力上首次超过人类平均水平，Anthropic也推出了参数规模突破10万亿的Claude 4系列产品。技术迭代速度远超预期的同时，围绕AI长期安全风险的讨论也再度升温。
过去三年，大模型能力的迭代速度已经超出了多数行业观察者的预期。2023年还只能完成基础文案工作的生成式AI，如今已经可以独立完成药物分子设计、芯片架构优化、工业控制系统调试等专业度极高的工作。
而与之相对的是，AI安全的研发进度始终落后于模型能力迭代：2025年全年，全球共上报117起大模型越狱事件，其中12起事件中模型输出了可直接用于危害公共安全的敏感信息，技术发展和安全保障的错配已经成为AI行业的核心矛盾。
此次MIT科技评论发起的圆桌讨论，汇集了全球AI领域的核心研究者和产业决策者，不同立场的观点形成了极为鲜明的碰撞。
支持“AI存在灭绝级风险”的一方以OpenAI超级对齐团队负责人Jan Leike为代表，他在发言中指出，当前AGI研发的对齐成功率不足30%，如果在对齐问题没有得到系统性解决的前提下推进超通用人工智能的研发，人类将有至少10%的概率面临无法控制的风险。
而反对的声音同样有充足的技术依据，图灵奖得主、Meta AI首席科学家Yann LeCun就明确表示，当前所有的大模型都没有自主意识和自主目标，本质是基于统计的内容生成工具，所谓的“AI灭绝风险”完全是脱离技术现实的恐慌，过度炒作风险反而会阻碍AI技术普惠的推进。
根据圆桌讨论后的匿名投票结果，62%的参会专家认为当前AI发展路径存在未被充分评估的长期安全风险，28%的专家认为相关风险被过度夸大，剩余10%的专家持中立态度。
尽管在风险等级上存在争议，但参会专家基本达成了统一共识：AI发展不能走“先发展后治理”的路径，必须提前搭建适配技术迭代速度的监管框架。
目前欧盟已经在新版AI法案中将通用人工智能纳入最高风险等级监管，要求所有AGI相关的研发项目必须提前提交安全评估报告，未通过评估的项目不得进入训练阶段。美国、中国等主要AI研发国家也在推进相关监管规则的制定，探索建立全球统一的AGI研发备案机制。
参与本次圆桌的OpenAI、DeepMind、Anthropic等7家头部AI企业也共同作出承诺，将把至少15%的年度研发投入投向AI安全领域，同时定期公开模型安全评估报告，接受第三方机构的监督。
本文基于公开信息分析整理，仅供参考。更多AI工具动态与行业解读，请持续关注本站更新。
滇公网安备 53252802528133号