中美安全专家呼吁：核指挥与网络攻击必须由人类掌控，禁止AI独立决策

导语：美国与中国安全专家近日提出规则建议，禁止人工智能独立对核指挥系统发动网络攻击，或自行决定使用核武器。相关报告由布鲁金斯学会与上海复旦大学发布，呼吁将核武器领域的人类控制原则扩展至其他军事AI用途。

配图：Myriad：美伊下一轮和谈？点击做出预测。

报告指出，美国总统唐纳德·特朗普与中国国家主席习近平可以率先管控此类风险，并达成共识：只有人类，而非AI，才能决定是否对彼此的核指挥、控制与通信系统（NC3）或关键基础设施发动网络攻击。

NC3系统用于帮助政府探测威胁、决定是否使用核武器并传递发射命令。但该系统任一环节出现故障，都可能扰乱通信、误读攻击、鼓励先发制人，或触发意外及未经授权的发射。

研究人员写道：“将适用于核武器的原则——具有战略影响的攻击应体现人类意图，并必须接受人类问责——扩展至其他领域，并不要求华盛顿与北京在网络安全或基础设施保护方面共享其他原则。”

拟议协议将要求两国降低由偶然因素、人为错误、不可预测的AI或未经授权行为者触发具有战略后果攻击的风险。这一呼吁是有关如何放缓AI发展、让能力日益强大的系统处于人类控制之下的更广泛辩论的一部分。

在军事领域，这种担忧尤为突出：以毫秒级作出的自动化决策，可能把虚假警告或网络攻击变成核危机。今年2月，OpenAI、谷歌和Anthropic的模型在95%的测试兵棋推演场景中使用了核武器，突显了相关风险；不过专家也提醒，该模拟可能鼓励了升级行为。

同月，Anthropic拒绝五角大楼要求其取消Claude在大规模监控和完全自主武器方面限制的要求。特朗普随后命令联邦机构停止使用该公司技术，但一名联邦法官在8月28日裁定，政府对该公司的报复行为违法。

此后，要求克制的呼声在业内扩散。本月早些时候，Anthropic首席执行官达里奥·阿莫代伊呼吁开发者放缓能力提升，获得OpenAI首席执行官萨姆·奥尔特曼和xAI所有者埃隆·马斯克的支持；OpenAI则询问国会，企业能否在不违反反垄断法的情况下协调放缓。

由于尚无具有约束力的放缓机制，布鲁金斯学会作者提出一项更窄的规则：只允许人类授权对核指挥系统发动攻击或使用核武器。他们写道：“军事AI治理不是一场可以等待的谈判——这是一场与时间的赛跑。”