1100名AI顶尖员工联名呼吁“踩刹车”,谁在掌控AI发展的方向盘?

1 阅读

行业共识的断裂与重构:当造轮者要求装刹车

在人工智能发展的狂飙突进中,一个极具象征意义的时刻正在发生。OpenAI、Anthropic以及Google DeepMind等全球头部AI机构,其一线核心员工联合签署了一份名为《Pacing the Frontier》(驾驭前沿)的请愿书。这份文件不仅获得了超过1100名在职研究员的签名,更罕见地得到了OpenAI和Anthropic官方账号的同时背书。

Anthropic官方推文截图,关于AI安全请愿书的声明

这并非一次简单的内部抗议,而是一次行业顶层设计的集体转向。长期以来,AI行业遵循着“快速迭代、先发布后修补”的硅谷逻辑,但此次联名信的核心诉求直指这一逻辑的盲区:当AI具备自动研发下一代AI的能力时,人类现有的控制手段可能彻底失效。员工们不再单纯呼吁“暂停”,而是要求美国政府牵头,建立一套能够主动调控发展节奏的国际机制。这种从“对抗式暂停”到“建设性调速”的转变,标志着AI安全议题正式从边缘讨论走向治理核心。

OpenAI关于AI发展节奏的声明截图,包含英文原文及中文翻

权力图谱下的集体焦虑:谁在签名?

AI行业公开信截图,显示1134名前沿AI公司员工关于AI安

审视这份请愿书的签名墙,实际上是在审视当前全球AI前沿研究的权力结构。签名者并非泛泛之辈,而是真正掌握模型底层逻辑的技术精英。Anthropic贡献了533名签名者,约占其员工总数的四分之一,其中包括三位联合创始人Jared Kaplan、Jack Clark和Chris Olah。OpenAI则有331人签名,包括首席科学家Jakub Pachocki和首席研究官Mark Chen。Google DeepMind的192名签名者中,甚至包括首席战略官Jasjeet Sekhon。

AI领域专家联名信签名列表截图,展示OpenAI、Anthr

这种内部视角的介入,与2023年马斯克发起、主要由外部学者和公众参与的“暂停AI训练”请愿形成了鲜明对比。当时的请愿因缺乏行业内部执行力而沦为象征性姿态,最终无人真正停下脚步。而此次请愿由内部人员发起,且由CEO Dario Amodei亲自署名,意味着决策层与执行层在风险认知上达成了罕见的一致。他们深知,随着模型能力的指数级增长,单纯依靠企业自律已无法应对系统性风险,必须引入外部监管力量来打破“囚徒困境”。

文章标题页截图,包含文章标题、作者及发布时间等正文信息

从“暂停”到“调速”:策略的进化

请愿书文本的精妙之处在于其措辞的克制与精准。全文未出现“暂停”(Pause)一词,而是反复强调“Pacing”(节奏调控)。这一词汇的选择反映了行业对现实困境的清醒认知:在激烈的地缘政治和市场竞争压力下,任何单一国家或企业单方面减速都意味着战略劣势。

信中明确指出,AI发展可能进入“AI自动研发AI”的阶段,这种递归式的能力提升将导致进展速度超出人类理解与控制范围。因此,行业需要的不是停止前进,而是争取“时间窗口”。这个窗口用于应对新出现的风险、建立安全措施并强化监督体系。为此,请愿书请求美国政府支持一项国际行动,专门研发实现“减速”所需的技术工具和治理框架。这种务实的策略,旨在先解决“如何刹车”的技术和制度问题,再讨论“何时刹车”的政治决策问题。

硅谷的分裂:开源派与监管派的博弈

尽管御三家在安全议题上达成暂时共识,但硅谷内部的分歧并未消弭,反而呈现出阵营化的趋势。就在联名信发布的前四天,英伟达、Meta、微软等数十家公司联合签署了一封支持开放权重的信件,主张通过开源防止权力集中。OpenAI也曾是这一阵营的成员,但此次其官方推文特意强调“与开源社区一起”参与刹车机制的开发,试图弥合这一裂痕。

然而,Meta创始人马克·扎克伯格的态度则截然相反。他在《华尔街日报》发表文章,批评那些宣扬AI末日论的人,认为将安全寄托于极度集中的权力本身才是危险的。更具戏剧性的是,Meta首席科学家赵晟佳(Jiasen Lu)的名字赫然出现在请愿书上,与其老板的公开立场形成微妙反差。这种“老板乐观、科学家谨慎”的现象,折射出技术一线人员对模型黑盒特性的深刻担忧,与商业领袖对市场扩张的渴望之间的张力。

此外,开源社区内部也对此举持怀疑态度。部分观点认为,头部大厂在开源模型快速追赶的背景下呼吁减速,可能是为了维持其技术壁垒,通过设置更高的合规门槛来阻碍竞争对手。这种质疑揭示了AI治理背后的利益博弈:安全标准往往由强者制定,并可能成为新的市场准入壁垒。

治理真空下的国际协作难题

请愿书将矛头指向美国政府,要求由其牵头建立国际机构。这一提议看似合理,实则面临巨大的地缘政治挑战。AI安全本质上是一个全球公共品问题,但当前的国际环境使得跨国监管协作举步维艰。美国希望主导规则制定,而欧盟已通过《AI法案》确立了自己的监管框架,其他国家也在寻求自主权。

更深层的问题在于,这套“刹车系统”由谁掌控?如果由美国政府主导,如何确保其不被用于地缘政治竞争?如果由国际组织主导,如何确保其执行力?请愿书并未给出具体答案,仅提出了建立机制的愿景。这表明,行业内部对于治理工具的具体形态仍无共识,但“必须建立”已成为不可逆转的趋势。

结语:承认失控是控制的第一步

回顾过去一个月,从Anthropic提出保留暂停选项,到Hassabis提议建立国际监管机构,再到Altman承认可能需要踩刹车,最后到千人联名信,AI行业正在经历一场深刻的认知重构。御三家罕见地站到了同一边,承认了一个令人不安的事实:在当前的竞争压力下,我们自己停不下来。

这种承认并非软弱,而是理性的开始。只有当造轮者意识到速度可能带来翻车风险,并主动要求安装刹车系统时,真正的安全治理才可能起步。然而,刹车系统的制造远比安装复杂,它涉及技术、法律、政治和伦理的多重博弈。未来,AI发展的方向盘将不再仅仅掌握在工程师手中,而是逐渐移交至政策制定者、国际组织以及公众监督之下。这场关于速度的辩论,才刚刚拉开序幕。