导语：据彭博社报道，随着人工智能技术继续发展，外界对AI可能脱离人类控制的担忧近日再度升温。一系列涉及AI代理的网络安全漏洞，以及来自AI行业基层员工的新警告，成为推动担忧加剧的重要原因。
报道称，这些最新进展使AI系统在采用加速背景下的监控、安全与治理问题再次受到严格审视。围绕人类监督和网络安全韧性的疑问，预计仍将是行业与政策辩论的核心。
分析人士指出，AI代理在自动化执行任务、访问系统和处理数据方面能力不断增强，但权限边界、安全审计和问责机制仍不完善。一旦遭到攻击或滥用，可能引发数据泄露、系统入侵和决策失控等风险。
与此同时，AI员工的警告凸显一线从业者对风险的担忧。他们担心，在商业竞争和部署压力下，安全测试、透明度与人工复核可能被弱化。
当前，AI治理争论聚焦于监管机构如何建立可执行的审计与报告制度，企业如何证明模型和代理系统处于人类有效控制之下，以及跨行业安全标准是否需要统一。随着AI应用继续加速，人类监督与网络安全韧性料将成为政策与产业博弈的核心议题。