AI小创

您好,我是AI助手

我可以帮您推荐合适的AI工具,有什么需要帮忙的吗?

我会根据您的需求,智能推荐站内收录的AI工具
猜您想问
推荐一些AI写作工具 有什么AI绘画工具? 推荐视频剪辑AI工具
AI助手: 我可以帮您推荐合适的AI工具,有什么需要帮忙的吗?

AI教父辛顿最新警示:科技巨头逐利或引发超级智能失控风险

2026年3月23日,诺贝尔奖得主、“AI教父”杰弗里·辛顿在接受《财富》杂志采访时公开警示,当前全球科技巨头普遍以短期利润为核心目标,缺乏对AI技术长期发展的终局思考,若行业持续忽视长期风险,未来人类或将在超级智能面前失去控制权,甚至沦为类似“婴儿”的弱势存在。

从2025年开始,全球科技巨头的AI竞赛就进入了贴身肉搏阶段:OpenAI的GPT迭代周期压缩到3个月,谷歌DeepMind接连发布多模态模型攻坚通用人工智能,国内厂商也扎堆推出消费级AI应用抢占用户市场,整个行业的发展节奏都被商业化目标推着往前跑。就在这样的行业背景下,辛顿的最新发声,给整个狂奔的行业浇了一盆冷水。

辛顿指出,当前AI行业的驱动力呈现明显的碎片化特征:企业管理层的核心考核指标锚定季度财报的营收增速,前线研发人员则聚焦解决具体工程问题——比如如何提升生成图像的分辨率、让AI生成视频的动作更自然,几乎没人愿意花精力思考“AI发展最终会把人类带向何方”这类宏大命题,短期利润导向已经完全盖过了对技术长期风险的考量。

在他看来,过去3年AI技术的商业化落地速度远超学界预期,但与之匹配的风险管控机制却完全没有跟上,几乎所有科技公司的研发流程中,都没有针对长期技术风险的前置评估环节。

辛顿将AI的潜在风险划分为两个层级,第一类是人为滥用风险,目前已经有大量实际案例落地:Deepfake生成的虚假音视频已经被用于诈骗、造谣等非法场景,AI辅助的网络攻击门槛大幅降低,未来甚至可能出现AI自主合成高致病性病毒的极端情况。

第二类是辛顿最为担忧的超级智能自主风险。他表示,按照当前AI技术的迭代速度,10年内就有可能出现能力远超人类的超级智能,一旦这类系统产生自主的生存和控制动机,人类现有的管控手段将完全失效,“届时人类面对超级智能,就像婴儿面对成年人一样,完全没有议价能力”。

在辛顿看来,要避免超级智能的失控风险,仅靠企业的道德自觉远远不够。全球监管层需要尽快建立AI研发的长期风险评估机制,将风险审核前置到项目立项阶段;学界也要跳出具体技术的落地研究,投入更多资源研究AI对齐、超级智能管控等前沿命题;科技巨头也需要平衡短期商业利益和长期社会责任,避免行业陷入“逐利式狂奔”的发展误区。

本文基于公开信息分析整理,仅供参考。更多AI工具动态与行业解读,请持续关注本站更新。