近日教皇方济各在公开讲话中明确提出，人工智能技术必须完成去武器化改造，绝不能出现AI支配人类的情况。但当前全球AI军备竞赛正持续加速，2024年上半年全球军用AI融资规模已突破120亿美元，OpenAI、Google DeepMind等多家头部科技企业均已参与国防AI项目，技术伦理约束落地速度远滞后于研发进程。
这场公开呼吁发生在梵蒂冈近期举办的「人工智能与人类共同未来」专题研讨会上，方济各在面向全球200多名科技研究者、企业代表发言时特别强调，当前AI技术的发展方向正在背离「服务人类」的核心目标，自主杀伤性武器、AI生成虚假信息等应用的普及，正在把人类推向被技术支配的风险边缘。
AI技术的武器化落地速度，早已超出了公众的普遍认知。2024年上半年全球军用AI领域的公开融资规模已经达到124亿美元，同比增长58%，其中近六成资金流向了自主武器系统、情报分析大模型、多模态目标识别技术等方向。
美国国防部在今年3月公布的2025财年预算中，专门划出了32亿美元用于AI技术研发，其中就包括接入Google Gemini多模态能力的全域指挥系统，能在几秒内完成上万条战场情报的分析和决策建议输出。OpenAI也在今年年初确认，已经和美国国防部达成合作，为其提供定制化的大语言模型服务，用于非杀伤性的情报分析工作，但这一表态并未打消业内对其技术最终被用于武器研发的担忧。
长期以来「技术中立」都是不少科技企业回应伦理争议的核心理由，但在AI军事化的问题上，这一逻辑正在受到越来越多的质疑。
2023年年底，全球3100多名AI研究者、企业高管曾联名签署公开信，要求所有头部AI企业暂停研发比GPT-4能力更强的大模型至少6个月，其中最核心的诉求之一就是要建立统一的AI军事化应用审查机制，避免技术研发脱离伦理约束。但截至目前，全球范围内仍未形成具备强制约束力的AI武器管控规则，仅有少数国家签署了限制自主杀伤性机器人应用的公约，美国、以色列等AI军事应用领先的国家均未加入。
更值得关注的是，不少头部AI企业的伦理审查机制往往形同虚设，商业利益和国防订单的吸引力，往往能轻易绕过内部的伦理约束条款。
教皇的这次公开表态，本质上是全球跨领域对AI治理需求的缩影。
目前联合国人工智能咨询机构已经在推进全球AI治理框架的制定工作，预计2025年将会出台首份非约束性的AI军事化应用指导准则，后续还将推动各国达成具备强制效力的管控公约。部分头部AI企业也开始调整内部规则，比如DeepSeek今年就明确宣布，不会承接任何与杀伤性武器相关的技术合作项目，同时设立了独立的伦理审查委员会，拥有所有对外合作的一票否决权。
AI技术本身的价值毋庸置疑，但如何避免其成为伤害人类的工具，将会是未来十年整个行业需要共同回答的核心问题。如果技术研发的速度始终远超伦理约束的落地速度，那么「AI支配人类」的场景，或许并不会只出现在科幻电影里。
本文基于公开信息分析整理，仅供参考。更多AI工具动态与行业解读，请持续关注本站更新。
滇公网安备 53252802528133号