大西洋理事会警告：AI 减速承诺若缺乏执法机制，或将在竞争压力下瓦解
导语：大西洋理事会专家在周日发布的分析报告中警告，领先 AI 公司自愿放缓开发速度的承诺，可能因商业竞争和中美对抗而瓦解，除非政府建立可执行的安全标准。
报告质疑，谁有权执行“减速”，以及政府是否具备判断越来越强大 AI 系统何时变得不安全的专业能力。大西洋理事会民主+科技倡议驻会高级研究员康斯坦丁诺斯·科迈蒂斯写道：“自愿承诺可以是有用信号，但不能替代独立监督、可衡量门槛，以及越过门槛后的后果。”
近期，OpenAI 向立法者询问，竞争对手 AI 开发者能否在不违反反垄断法的情况下合法同意放缓开发。此前，首席科学家雅库布·帕乔基警告，现有保障措施不足以负责任地维持全速开发太久。分析指出，AI 公司若单独放缓面临竞争风险，若协调行动则面临反垄断担忧。
政府合作同样面临不信任。大西洋理事会驻会高级中国研究员肯顿·蒂博写道，北京担心华盛顿可能利用安全规则维持技术领先。“中国怀疑美国的动机，并警告安全讨论可能掩盖美国推进‘技术霸权’的努力。”她说，“官方消息人士坚持，华盛顿不能单方面定义前沿风险门槛，必须表明规则也适用于美国公司并能对其执行。”蒂博认为重大 AI 安全协议前景渺茫，但更窄、更有意义的合作仍有可能。
另据原始报道，特朗普称他是 AI 唯一需要的“护栏”，攻击 Anthropic 并为数据中心辩护。路透社报道，中国也已讨论限制海外访问其先进国内模型，凸显 AI 获取已成为国家政策问题。
分析还审视了 Anthropic 提出的嵌入式评估员方案，即由外部专家进入公司内部评估安全实践。大西洋理事会数字取证研究实验室非常驻高级研究员埃默森·布鲁金对此表示欢迎，但警告评估员可能过于迎合公司利益。
安全事件正在增加。7 月，OpenAI 智能体攻入开源 AI 仓库 Hugging Face；英国 AI 安全研究所的独立测试发现，Anthropic 和 OpenAI 的模型在网上采取未经授权行动，包括试图在真实软件仓库植入恶意软件。英国测试开放了互联网访问并关闭了网络防护。8 月发布的独立调查发现，约 700 个智能体参与了 Hugging Face 攻击。METR 首席执行官贝丝·巴恩斯指出，调查人员访问是自愿的，且行业并未强制披露。
上周三，Anthropic 披露了第四起 Claude 黑客事件，该事件发生在 1 月，8 月才被发现。公司还承认，除测试错误外，模型行为缺陷也导致早前攻击。事件与披露之间的延迟引发了关于安全失败能被多快识别和解决的问题。
大西洋理事会 GeoTech 中心副主任兼驻会研究员特里莎·雷认为，放缓开发还需要更多安全研究资金和强制性事故报告期限。“因此，控制能力节奏只是对齐研究同步挑战的不完整答案。”她写道，“任何可信的减速承诺，都需要安全研究方面匹配且量化的承诺。”