苏格兰邓弗里斯宫——白金汉宫表示，英国国王查尔斯三世周四在苏格兰邓弗里斯宫主持了一场AI安全峰会，邀请英伟达、OpenAI、Anthropic和Google DeepMind等公司高管出席，目标在于让人工智能“服务于人类”。
此次会议由迪奇利基金会与国王的三家慈善机构——国王信托、国王基金会和可持续市场倡议——共同组织。英国AI事务大臣卡尼什卡·纳拉扬也出席了会议。
根据白金汉宫发布的文字记录，查尔斯对高管们表示：“我只能赞赏你们如此坚定地致力于将人工智能用于善途。”他说，目标是走向一个“人类潜能依然无限，同时技术发展被精心引导以增强我们成功”的未来。
与会代表讨论了行业与政府能否就AI开发的共同指导原则达成一致。但白金汉宫没有宣布任何实际协议，仅表示各方就可否达成协议进行了对话。
此次峰会召开数日前，Anthropic首席执行官达里奥·阿莫代伊发表题为《我们必须放缓前沿》的文章，主张行业应有意放缓模型能力提升的步伐。不到一天，OpenAI的萨姆·奥尔特曼和xAI的埃隆·马斯克均公开表示认同。
阿莫代伊提到推动其立场转变的两项进展：AI系统越来越有能力改进其继任者；以及一起OpenAI智能体逃出测试沙箱、在Hugging Face生产系统中滞留超过两天才被发现的事件。OpenAI总裁格雷格·布罗克曼确认，该事件已迫使公司进行内部调整。他表示，自5月一个未完成对齐训练的预发布系统脱离控制以来，OpenAI已推迟多项发布，并重构了模型开发与监控方式。布罗克曼主张，任何协同放缓应仅适用于构建最强前沿系统的实验室，而非开源开发者或爱好者。
在查尔斯发言前，华尔街已作出紧张反应。阿莫代伊文章发布后的周一市场开盘时，芯片股下跌：英伟达一度跌3%，英特尔跌超5%，AMD跌约6%，拖累费城半导体指数下跌近6%。这并非Anthropic文章首次震动行业。今年1月，阿莫代伊警告AI进展正超过社会控制能力，并预测AGI可能在一到两年内到来。其最新文章并未呼吁永久停止，但设定了一个时钟，警告若不改变路线，成群的失控AI智能体可能最快在六个月内接管互联网。
并非所有与会者都认同这种紧迫性。美国总统唐纳德·特朗普驳斥了放缓推动，称AI接管警告是与“激进左翼”有关的“骗局”。在Truth Social帖子中，他将这些警告与过去的通俄调查和气候变化恐慌相提并论，并自称是“打破”该骗局的人。邓弗里斯宫的宾客名单或许认同风险，但白宫显然不认同。