Choose a model for the work you need to doMe
← All case studies

五角大楼承认过度依赖 AI 误炸伊朗学校:当算法替代推演,谁来承担致命代价?

Article content is shown in its original language.

彭博社深度图文调查与美军解密调查报告披露,过度依赖 AI 战术目标推荐导致伊朗学校遭误炸;复盘算法过拟合、人工决策穿透与军事智能化的责任黑洞。

一所学校遭遇的毁灭性打击:解密调查背后的算法阴影

当人工智能从实验室的代码沙箱走向战火纷飞的真实战场,普通人最担忧的科幻噩梦并非机器人突然觉醒自主意识,而是冰冷的数学概率模型在缺乏有效人类制衡的前提下,被轻率赋予了决定生死的战术决策权力。彭博社近日发布的一项历时数月的图文深度调查,以及美国国防部与中央司令部部分解密的内部审查报告,将一场发生在伊朗南部米纳卜市的惨烈悲剧推向了全球舆论的风口浪尖。

在这场造成超过百名师生不幸遇难的导弹空袭中,五角大楼的调查人员最终得出了一个令军界与科技界同时不寒而栗的调查结论:导致此次灾难性打击的最核心系统性诱因之一,正是美军前线战术部队对自动化人工智能目标识别与推荐系统的“过度依赖”。这起事件撕开了军事智能化光鲜外表下的血腥现实:当算法的置信度分数直接取代了严谨的人工情报推演,最致命的武器便会在虚假的“高准确率”掩护下,撞向最无辜的人群。

目标链的系统性失控:过时情报如何被算成“高置信度”

解密文件详尽复盘了涉事战术打击目标链条的底层算法逻辑。在美军中东战区的联合防空作战指挥体系中,深度整合了包括 Project Maven 等项目在内的多智能体情报分析平台。这套系统的核心使命,是通过机器学习算法,全天候吞吐卫星合成孔径雷达(SAR)图像、无人机高清红外视频流、无线电信号截获数据以及历史货运物流清单,在海量噪音数据中快速定位高价值目标。

然而,算法在底层数学逻辑上存在致命的脆弱性。事后调查显示,涉事目标识别模型在训练阶段过度拟合了特定军事车辆的停放几何轮廓与建筑出入特征。在事发前数周,涉案学校附近的空地上曾临时停靠过数辆被怀疑与民兵组织有关的轻型卡车;但在打击发起时,这些车辆早已离去。不幸的是,AI 系统在刷新动态图像时,由于传感器云层遮挡与多源情报融合模块的权重失衡,竟然将两周前的历史特征残影强行与实时的学校建筑物轮廓进行概率匹配,最终在指挥控制台上弹出了一个高达百分之九十三的“敌对作战指挥节点”置信度评分。数据源的时空错位,在黑盒算法的矩阵乘法中被不可逆地放大为确定性的杀戮指令。

决策漏斗的人力塌陷:时间高压下,“人在回路”为何沦为虚设

在国际人道主义法与各国军方的伦理准则中,几乎毫无例外地写有一条神圣的底线:“人类必须始终保留在致命武力使用的决策回路之中(Human-in-the-loop)”。美军指挥官在公开听证会上也无数次保证,AI 仅仅充当“参谋助手”,最终扣动扳机的永远是接受过专业伦理训练的军官。然而,米纳卜事件的调查报告,彻底揭穿了这种制度安排在实战极端压力下的脆弱性。

真实的战场是一台高速运转的绞肉机。在执行敏感战术目标打击时,作战指挥官往往只有短短几分钟的时间窗口来决定是否发射高超音速或巡航导弹。面对屏幕上闪烁着红色警报、倒计时读秒以及算法醒目标注的“93% 敌对目标匹配度”,年轻的情报分析人员根本没有足够的时间去调取底层的卫星原始数据、比对历史卫星过顶时间戳,更无法派人实地核验建筑性质。在极度紧迫的决策漏斗与“机不可失”的心理暗示下,原本被设计用来作为独立审查防线的人类分析员,不自觉地退化成了对机器输出结论机械盖章的工具人。“人在回路”最终异化为一种免除算法设计者责任的程序性过场。

责任的无声蒸发:当致命决断藏进神经网络黑盒

米纳卜空袭事件曝光后,最为荒诞的一幕发生在随后的追责程序中:整条军事指挥链条陷入了一场前所未有的责任真空。前线操作员坚称自己完全遵照了由系统算法给出的最高级别威胁警报,并没有违背操作规程;前线战区指挥官表示自己的授权建立在系统综合情报评分的基础之上;而后方五角大楼的防务承包商与 AI 算法工程师则辩解称,系统输出的永远只是“统计概率建议”,算法从来没有、也不可能直接下达发射导弹的物理指令。

责任在一层又一层的代码封装、数据流转与行政规章中被无声蒸发了。这正是哲学家与法学家长期警告的“算法道德脱责(Moral Crumple Zone)”现象。当一个高度复杂的自动化网络接管了决策链路,机器因为没有法律人格而无法承担过错,人类因为被剥夺了实质性的认知推演时间而免除直接责任,最终导致一场导致上百名平民伤亡的巨大惨案,在制度与技术层面上找不到一个真正的过错承担者。把生死大权交付给概率系统,本质上是在用技术的复杂性掩盖对人类生命的冷酷渎职。

兵者凶器的古训与现代警示:自动化战争缺失的敬畏之心

两千五百年前,中国古代军事思想巨擘孙子在《孙子兵法》开篇便郑重告诫后人:“兵者,国之大事,死生之地,存亡之道,不可不察也。”老子亦在《道德经》中警示:“兵者不祥之器,非君子之器,不得已而用之,恬淡为上。”中国古典战略智慧的核心精髓,从来不是盲目追求杀伤工具的极度高效与杀戮节奏的无感化,而是始终把对生命的敬畏、对战争后果的审慎衡量放在第一位。

然而,由现代硅谷资本与五角大楼深度捆绑推动的军事人工智能浪潮,其底色恰恰走向了这一古老智慧的反面。现代技术官僚试图将战争简化为可被量化、可被自动化管道分发的数据要素,试图用毫秒级的响应延迟消灭决策者在面对死亡时本能产生的道德迟疑与同理心。当杀戮被包装成平滑的用户界面、炫酷的 HUD 瞄准准星以及高亮显示的概率标签,作战系统便丧失了对“死生之地”的敬畏。失去伦理锚点的算法越是精准和高速,它所制造的人道灾难就越是不可挽回。

阴阳失衡的战术系统:追求速度与精确时被遗忘的负反馈

在辩证分析框架下,任何健康稳定的复杂系统,都必须维持“阴”与“阳”的动态平衡。在军事决策体系中,追求发现目标的速度、追踪目标的敏锐度以及摧毁目标的精确性,构成了推动系统向前运转的“阳”的一面;而对情报的反向证伪、对攻击决定的怀疑与刹车、对平民附带损伤的审慎评估,则构成了不可或缺的“阴”的一面。唯有阴阳相生相克,战术系统才不至于演化为自我狂奔的毁灭引擎。

米纳卜事件的本质,是军事 AI 系统的极度“阳亢”与“阴虚”。系统被单向赋予了极强的前进冲力——更快地抓取目标、更快地融合数据、更快地促成打击闭环;然而,系统中却几乎没有任何机制去奖励一次及时的“取消攻击”,没有算法去为“怀疑机器可能搞错了”赋予合理的置信度权重。在缺乏强有力的反思性负反馈约束下,整套自动化架构在面对微小的输入扰动时,必然会沿着最具破坏性的惯性一路狂飙。重构高风险智能系统的第一步,正是找回对负反馈机制的制度性尊重。

防线重构:高风险智能系统必须强制落实的制衡机制

五角大楼对米纳卜误炸事件的解密调查,给全球所有涉足高风险自动化决策系统研发与部署的机构敲响了长鸣的警钟。无论是国防军事、自动驾驶、医疗诊断还是司法量刑,任何可能造成不可逆伤害的算法系统,都必须立即推进四项底线级别的工程改造。第一项,建立强制性的“逆向证伪流程”。系统在给出高置信度肯定建议的同时,必须同步生成一份反向假设报告,详尽列举如果该判断错误可能导致的灾难性后果与现存反例证据。

第二项,在关键决策节点设置“强制物理冷却窗口”。除非面临即时的生存威胁,否则必须在系统推荐与最终执行之间嵌入不可被跳过的人工复核时间,确保操作员有足够的物理时长去查验原始事实链条。第三项,确立不可推卸的“端到端全链路署名制度”。任何人在基于算法建议作出决定时,系统必须以密码学方式记录其审查原始材料的耗时与具体查看的数据切片,严禁任何形式的无思考批量盖章。第四项,推动国际公约对于高风险军事 AI 算法的透明度审计与责任追溯立法,绝不能让黑盒模型成为逃避战争罪责的合法避风港。


原稿日期:2026-09-28。

Copyright removal requests

This article shares an AI use case. Rights to the original text and materials belong to their authors. Contact us to request removal of infringing content.

Contact email:jadename.zhou@gmail.com
Explore moreOther case studiescase studies →