研究称AI战争中“人在回路”控制本质是幻觉

AI创作导航管理员 LV5 大神连续登录30天萌新

5 个月前

风向

290

2026年4月16日，认知神经科学家乌里·毛茨（Uri Maoz）发表评论文章指出，当前全球军方推进的AI辅助作战体系中，普遍遵循的“人在回路”安全控制模式本质是无法实现的幻觉。由于各类军用AI系统普遍存在黑箱特性，人类决策者无法完全理解AI的决策逻辑，更难在毫秒级作战窗口中有效介入，给未来AI冲突带来不可预估的安全风险。

近年来，AI技术快速渗透进国防作战领域，从无人机自主搜索目标，到防空反导系统的态势判断，再到军用大模型的情报整理，AI的参与度越来越高。国际社会在讨论自主武器管控时，普遍将“保留人类最终决策权”也就是“人在回路”模式作为公认的安全底线，几乎所有国家都宣称自己的军用AI体系不会脱离人类控制。

乌里·毛茨在文章中指出，这套默认的安全逻辑从根本上就不成立。目前主流的军用AI不管是基于大语言模型还是深度学习算法，基本都是端到端训练的黑箱系统——研发者都无法完全解释AI做出某一决策的完整推理过程，更别说前线的人类指挥员。

更关键的矛盾来自作战场景的时间属性：现代高烈度冲突中，AI需要处理的态势反应窗口往往只有几毫秒到几秒，人类从读取AI结果到验证再做出决策，整个流程下来根本赶不上作战节奏，所谓的“最终审核”本质上只能是签字同意AI的判断。

当前全球AI军事化的研发节奏正在加快，各大军工巨头都在推出面向不同作战场景的AI产品，但相关的安全规则始终建立在“人可控制AI”的基础之上。如果“人在回路”本身就是幻觉，那么现有的风险管控框架就失去了核心支撑，AI误判目标、非授权发起攻击等极端风险将完全失控。文章呼吁，全球防务界和科技界需要重新审视AI军事化的安全逻辑，不能再用“人在回路”的幌子掩盖AI战争的不可控性。

大语言模型人工智能 AI军事化人在回路

本文基于公开信息分析整理，仅供参考。更多AI工具动态与行业解读，请持续关注本站更新。