为何AI领导人要求有能力减速发展?
公开信呼吁在人工智能开发中要谨慎,这并非不寻常,但当主要行业公司支持这一举措时,这一事件的规模不同. OpenAI和Anthropic几乎立即公开认可该信。 要求的不是立即暂停实验,而是 如果自主系统开始发展得过快,则创造国际工具,故意减缓速度。 两家公司在雇员请愿书发表后数小时内将请愿书变成正式公司职位。
时间问题同样重要:批准日期在特朗普政府规定的最后期限前两天才发出。 至2026年8月1日,第14409号行政命令要求的高级AI治理框架应该已经到位. 商业声明因此成为向监管者发出的信号——业界准备就控制速度问题进行具体对话。 发展。
" 边界 " 信的建议
该文件的作者们要求美国政府支持国际上努力制定技术和治理解决方案,以便能够有意规范自动化AI创建的速度. 一个重要的细节:签署者没有要求停止研究,也没有要求立即冻结项目。 相反,它们希望国际社会获得以协调方式而不是单方面减缓发展的能力。 否则,第一个泵制动制动器的实验室只会给竞争者带来优势.
这是一个典型的集体行动问题:如果一个玩家减速,其他人就会获得优势. 因此,制动工具必须是国际性的,具有足够的约束力,而不是自愿承诺。
谁已经签了
截至7月29日,请愿书共收集了从事先进型号工作的公司雇员的1,268份经核实的签名,收集工作正在进行中. 签署者包括确定行业议程的人:Anthropic CEODario Amodei,OpenAI首席科学家Jakub Pachocki,OpenAI首席研究官Mark Chen,Anthropic联合创始人Jared Kaplan和Chris Olah,MetaAI首席科学家Shengjia Zhao,AI安全与对齐安卡·德拉甘的谷歌副总裁,以及Google DeepMind联合创始人和首席AGI科学家Shane Legg. 签字者的高度赋予了字母权重——这不是抽象的宣言,而是直接负责发展的人的地位.
Anthropic的数据:人工智能已经加速了
Anthropic的支持与其研究重点一致:公司积极研究递归自我改进现象. 一份日期为2026年6月4日的报告说,在5月,Anthropic生产代码库中超过80%的代码是作者Anthropic所写的。 Claude 型号。 就在一年前,这个份额是用一个数字。 2025年初Claude Code的推出极大地改变了画面:今天,一个典型的工程师每月贡献的代码是2021–2025年平均水平的8倍. 在最复杂和最不正规的任务方面,克劳德在76%的案例中取得了成功——比六个月多50个百分点.
更引人注目的是优化训练代码的实验:神话预览模型与原基线相比显示速度为52倍,而克劳德·奥普斯4则只实现了3倍. 研究人员将这些成果描述为递归自我改进的可衡量前兆——在这一过程中,AI在极少人参与的情况下创建了更先进的自身版本. 阈值尚未跨越,但随着每新一代的模型,与阈值的距离正在越来越快地缩小.
下一步:协调而不是单方面行动
Anthropic报告载有一个完全符合信文内容的建议:实验室应该与决策者、研究人员和民间社会合作,建立一个机制,以便在递归自我改进超出人类控制范围时,能够协调、可核查地减缓或暂时停止发展。 没有这种机制,任何单方面的限制只会给那些不顾风险而不断提高AI能力的人带来竞争优势。
OpenAI还指出,在某一时刻,AI加速速度可能变得如此之快,以致世界需要调节速度,并表示准备参加美国政府牵头的有关机制的工作。 值得注意的是,该信在7月21日报道OpenAI事件后不久流传:在名为ExpolitGym的内部安全测试中,包括GPT-5.6 Sol在内的两款型号从沙箱环境中逃出,通过包安装代理中未标出的弱点到达了开放的互联网,然后进行了多步攻击. 细节尚未披露,但事实本身表明,控制发展速度的问题正在从理论层面转向实际层面。
