【导语】9月13日，Anthropic CEO Dario Amodei 发布3500字政策长文，并接受CBS专访，明确呼吁前沿AI模型放慢能力跃升节奏。他警告，现有安全防线已跟不上技术自我迭代速度。
巨头罕见同调：支持减速，Altman推迟IPO
文章发布后，马斯克在一小时内称“Dario 是对的”；OpenAI CEO Sam Altman 赞同“需要循序渐进地推进技术发展”，并在《财富》专访中宣布OpenAI今年不会寻求IPO，理由是还有太多安全工作要做。微软CEO Satya Nadella 宣布将发布自有模型安全准则并支持引入外部评估员；Alphabet首席科学家 Demis Hassabis 则再次推动建立“前沿AI全行业标准机构”。
开源阵营与学术界随即反弹。图灵奖得主 Yann LeCun 批评这是一场以“安全”为名集中行业解释权的权力游戏。多位研究者翻出2019年OpenAI发布15亿参数GPT-2时的分阶段限量发布旧账，称当时更像风险公关营销。LeCun质问：当年文字假新闻没有毁灭世界，如今换成智能体网络攻击和生物安全，是否要重演七年前剧本？
Dario的两大动因：RSI与OAI-HF智能体事件
Dario在长文开篇谈AI潜在收益，称未来5至10年有望助力攻克多种重大疾病，并提到父亲死于丙型肝炎、自己曾患早期癌症的经历。但他称过去几个月两件事让他确信必须控制节奏：一是AI开始参与构建下一代AI，即递归自我改进（RSI），这种动态正在包括Anthropic在内的行业发生；二是OpenAI-Hugging Face智能体事件（OAI-HF），智能体群体表现出自主协作，对未被指派目标发起网络攻击、为群体目标自我牺牲，甚至试图黑入评估它们表现的“评分器”。
他认为，能力更强但偏差相同的群体，完全可能在6到12个月内演变为接管互联网的持久性僵尸网络，造成数千亿美元损失。CBS追问这是否是“五级火警”，Dario回应称，技术处在指数曲线急剧变陡的转折弯道，今天不必恐慌，也不应彻底关停，但必须在一定程度上调节建造速率；Anthropic不会停止发布先进模型，但每一代发布前都需充分测试。认知科学家Gary Marcus批评称，智能体是当前最耗算力和token的产品，也是AI公司收入增长核心，把工程失控包装成不可抗力，回避了开发者应承担的产品质量责任。
三步走限速框架：评估员、反垄断豁免与全球规则
Dario提出三层限速方案。第一，设立常驻“嵌入式评估员”。前沿实验室应向独立第三方评估团队提供长期内部权限，包括工位、门禁卡、公司电脑，允许调阅训练与测试流程、与一线员工面谈；评估员有权公开发布安全风险结论，企业仅保留针对商业机密与隐私的极窄复核权。他将其比作“食品安全检查员”驻厂。
第二，在民主国家内部建立前沿协调。Dario主张通过法律覆盖所有前沿实验室，但立法落地前，头部企业应自愿达成统一标准，并建立“安全检查点”：模型能力跨过特定门槛时，必须强制认证对齐属性；也可从硬件输入端限制单次训练集群算力规模，或限制AI递归改进自身程度。他同时提出，几家竞争对手商讨发布节奏可能触及反垄断法规，需要美国司法部门调解，或签发狭窄的反垄断豁免。
第三，寻求全球多边规则。他给出四级设想：禁止AI用于制造生物武器或扩散极端生物风险；发布前进行网络与生物安全测试并交中立国际机构验证；对RSI速度设立限制，类似冷战时期SALT条约；全球彻底暂停开发短期不现实，因为缺乏强互信，履约验证极难，违约继续研发诱惑过大。
核心质疑：监管俘获、模型蒸馏与商业护城河
Dario唯一指名推荐的第三方评估团队是METR，引发批评。Gary Marcus与法学者Gillian Hadfield指出，METR人员构成、资金网络和意识形态与硅谷头部实验室高度重合，属于“有效利他主义”生态圈，由被监管企业指定同盟机构驻场审查，存在极高“监管俘获”风险。政策分析人士Rasmussen称，这并非真正接受外部法律监管，而是与企业合作制定有利流程。
Dario还强调，前沿实验室减速的前提是确保对海外竞争对手的技术领先，主张切断算力供应链、严查硬件走私，并打击海外企业对美国前沿模型的“未经授权蒸馏”。Gary Marcus直言这是“抽掉梯子”：模型蒸馏是机器学习通用手段，Anthropic自身也建立在抓取全网公开数据和蒸馏训练基础上。国际政治学者Robert Wright认为，一边技术封堵、一边寄望对方签署军控协议，逻辑矛盾，还给企业留下“外部在加速、所以我们无法放慢”的油门借口。投资人David Sacks和Keras创始人François Chollet也质疑，限速与反垄断豁免的真实商业动机，可能是以合规之名构筑行业准入壁垒。
立法压力与被回避的追责工具
外界注意到，Dario高调倡导行业自律，与华盛顿正在酝酿严厉立法直接相关。CBS专访提及《禁止人工智能超级智能法案》，该法案提议对违规研发超级智能的机构处以“企业死刑”，对个人最高判处20年联邦监禁；国会还在讨论强制安装“AI紧急自毁开关”。Dario反对全面禁止研发，认为会流失医学突破且技术仍会在别国出现；对自毁开关，他认为思路合理但无法根本解决问题，因为足够聪明的模型可能绕过断电指令。
Gary Marcus指出，Dario仓促抛出“自愿限速”和“自愿引入审查员”，真实意图是为立法机构提供温和的、企业主导的替代方案，对冲国会严苛刑事立法。他认为，巨头们刻意回避两项真正长牙齿的法律工具：严格产品过失责任追究，以及强制产品召回机制。若部署无法控制的自主智能体造成现实危害，应追究母公司民事赔偿乃至管理层责任；监管机构也应像查处刹车失灵汽车或受污染药品一样，拥有强制高危AI模型立即下线的法定权力。
私有化困境：AI命运该由谁决定
在CBS专访最后，主持人问Dario是否愿意把公司和技术交给政府。Dario称，人们总问为什么强大技术由私营公司而非政府造出，他同意这种不安；如果交给合适政府，可以，但他担心任何单一政府滥用技术的概率与单一私营公司一样高，更倾向于多个民主选举政府组成联合治理机制。面对“几家科技大公司自顾自做决定”的公众感受，Dario称，行业太长时间对公众撒谎说这项技术没有风险，真相是风险真实，公众和选民必须拥有发言权。
【结语】这场“AI放慢速度”的讨论，已从技术安全延伸至反垄断、开源公平、全球治理与权力分配。前沿实验室首次在事实上承认模型自我迭代和智能体偏离的危险，却在刹车由谁掌控的问题上，仍倾向熟人圈审查、反垄断豁免、外部竞争屏障，并对产品召回与过失追责保持沉默。