站在奇点的山麓:Demis Hassabis 给前沿 AI 写了一份治理框架

站在奇点的山麓:Demis Hassabis 给前沿 AI 写了一份治理框架

Demis Hassabis 很少写长文。这位 DeepMind 联合创始人、2024 年诺贝尔化学奖得主,过去十年更习惯用产品发布和论文说话——AlphaGo、AlphaFold、Gemini,每一个都自带分量。所以当他在 2026 年发出一篇题为《A Framework for Frontier AI and the Dawning of a New Age》的文章时,业内立刻意识到这不是一篇普通的博客。它同时做两件事:一是给出一个关于 AGI 时间表的、相当激进的判断;二是把一套完整的、可直接落地的治理方案摆上台面。前者的措辞极具画面感,后者则具体到「30 天自愿提交、之后强制」这种监管条文级别的细节。

这篇文章之所以值得单独拆解,是因为它出现在一个微妙的时刻:模型能力曲线在多个维度上同时陡峭上升,而监管框架明显落后于技术现实。Hassabis 的回应不是「慢一点」,而是「我们已经站在山脚下了,所以得边爬边修护栏」。理解他的论证,比记住他那几个金句更重要。

速览卡:这位大佬和他说了什么

Demis Hassabis大佬Demis Hassabis
身份Google DeepMind 联合创始人兼 CEO,2024 年诺贝尔化学奖得主(AlphaFold)
出处个人博客长文《A Framework for Frontier AI and the Dawning of a New Age》(2026 年)
时间2026 年
核心观点AGI 可能只有几年之遥,人类已站在「奇点的山麓」;前沿模型需要一套对标 FINRA 的独立治理与分级发布机制,而不是等到确凿伤害发生后再补救

Hassabis 说了什么

这篇文章的开篇就是一句不留余地的判断。他没有用「若干年内可能实现」这类对冲措辞,而是直接把 AGI 放进一个可感知的时间尺度里:

“This is a pivotal moment in human history. Artificial General Intelligence (AGI)… is probably only a few short years away.”

(译文)这是人类历史上一个关键性的时刻。通用人工智能(AGI)……可能只有短短几年之遥。

接下来,他用了一个颇具文学性的比喻来描述当下。在一次公开场合回顾这个阶段时,他说他们当时「站在奇点的山麓」:

“we were standing in the foothills of the singularity.”

(译文)我们正站在奇点的山麓。

这句话的信息量在于「山麓」这个词。它不是「我们已经登上山顶」,也不是「山还很远」——而是「你已经踩在山体上,能看到主峰的高度,但还有很长一段爬升」。这与他后面关于「速度」的论证完全一致:不是「会不会到」,而是「来得比想象的快」。

第三个关键句子,是关于 AI 的物质基础。Hassabis 用了一个近乎诗意的说法来描述计算这件事:

“we’ve essentially found a way to make sand think.”

(译文)我们本质上找到了让沙子思考的办法。

「沙子」指的是硅——芯片的原料。这句话表面是修辞,底层是一个真实的物理事实:现代 AI 的全部能力,都建立在对硅的精密操纵之上;而硅来自地球上最普通的材料之一。Hassabis 用这个反差来强调:人类第一次制造出了一类「可以学习、可以泛化」的机器,而它的原料平凡得令人难以置信。这也为后文埋下伏笔——如果这么普通的东西能产生如此能力,那么增长的自由度就不在「原料」上,而在别的地方。

第四个判断,是关于规模。他给出了一个具体的量级类比:

“perhaps 10x of the Industrial Revolution at 10x the speed.”

(译文)也许是工业革命的 10 倍,且速度是它的 10 倍。

这句话要做拆分理解。「工业革命的 10 倍」说的是影响的总量级——工业革命用一两百年重塑了生产方式、城市结构、社会分层和全球权力格局;Hassabis 认为 AI 的最终影响要比这个大一个量级。「速度是它的 10 倍」说的是时间尺度——工业革命的那套变化花了几代人的时间才沉淀下来,而 AI 带来的同类变化可能压缩在一代人之内完成。合起来,这句话的真实含义不是「AI 很厉害」,而是「社会适应机制的时间预算被大幅压缩了」。而这,恰恰是他论证「必须现在就把治理框架搭起来」的核心依据。

背景:为什么他要在 2026 年写这篇文章

要理解这篇文章的分量,得先理解 Hassabis 在这个议题上的位置。他不是那种「从学术圈跳到产业界的科学家」,也不是纯粹的商业领袖。他的履历里同时有神经科学博士、游戏设计师、DeepMind 创始人和诺奖得主四重身份。这种复合背景,让他成了少数几个「既懂模型内部在发生什么、又要对产品落地负责、还愿意公开谈长期风险」的人。

而 2026 年的现实是:前沿模型的能力在多个方向同时推进——长程任务执行、工具调用、跨模态理解、以及面向科研的推理。这些能力带来的收益是实在的,但它们带来的新型风险也是实在的:模型被用于网络攻击的自动化、生物/化学领域的知识门槛被拉低、以及最容易被忽视的「模型行为在长尾场景中的不可预测性」。

与此同时,监管侧的状态是:各国都在立法,但立法的颗粒度跟不上技术迭代的速度。欧盟的 AI 法案走的是风险分级路线,美国走的更多是行业自律加零散行政令,而前沿实验室自己的安全承诺(比如 2023-2024 年那一波「前沿模型论坛」式的自律声明)在执行层面缺乏统一标准。Hassabis 的文章正是在这个真空里提出的——他没有选择呼吁「暂停」,也没有选择「什么都别管」,而是给出了第三条路:**把前沿模型当成一个需要独立监管的基础设施行业来对待**。

这里有一个容易被忽略的信号:写这篇文章的人,是一家和最先进模型能力直接绑定的公司的 CEO。他主张更严格的监管,客观上是把自己公司也放进监管对象里。这种「主动接受约束」的姿态,在商业史上有先例(比如金融业在危机后主动支持更严的资本充足率要求),动机可以复杂——既有真诚的风险判断,也有「清晰的规则反而有利于头部玩家」的战略考量。但这不改变一个事实:他给出的方案是具体的、可执行的,而不是表态式的。

核心观点展开:一份 FINRA 式的前沿 AI 治理方案

这篇文章最硬的部分,是它的治理方案。Hassabis 没有停留在「需要监管」的层面,而是给了一个明确的对标对象:**FINRA**(美国金融业监管局)。这是一个很有讲究的选择。

FINRA 的结构特点值得展开说:它是一个**行业自律组织,但被法律授权行使监管职能**。它不由公共部门直接运营,成员是券商和经纪商,但它的规则经美国证券交易委员会(SEC)批准后具有强制力,它可以对成员进行检查、处罚、甚至吊销资格。这套结构的巧妙之处在于:它让「懂业务的人」来制定执行细则,同时又保留了「公共权力背书」的法律效力,避免了纯行政监管「外行管内行」的迟钝,也避免了纯行业自律「自己给自己打分」的失灵。

Hassabis 提出的方案,基本是把这个结构移植到前沿 AI 上。根据文章披露的设计,方案包含几个关键机制:

第一层是**提交与分级**。方案建议前沿实验室**在 30 天内自愿提交**其最先进模型的相关信息,作为过渡期安排;过渡期结束后**转为强制**。这里的「自愿 → 强制」是一个经典的政策设计:先让愿意配合的头部玩家建立范式和数据格式,避免一上来就因为标准不明确而卡死,等范式跑通后再用强制力覆盖全体。它同时传递了一个信号——「30 天自愿期」实际上是在筛选谁愿意坐下来谈。

第二层是**基准阈值(benchmark thresholds)**。方案提出用一套可量化的评测基准来界定「什么算前沿模型」,当模型在特定能力基准上超过阈值时,触发相应的监管义务。这是整个方案里最有争议、也最关键的一环:它把「风险」这个模糊概念,翻译成了「在某个评测上超过某个分数」这个可操作的判据。它的好处是可执行、可审计;它的问题同样明显——基准会被污染,能力会被拆解到多个次阈值以下的模型里(所谓「能力拼装」),而基准本身永远滞后于最前沿的能力。

第三层是**信息披露与可追溯**。方案要求发布模型卡(model cards)——记录模型的训练数据大致构成、能力边界、已知局限、评测结果;同时要求对模型生成内容加水印(watermarking),以便追溯来源。这两项在设计上是一对:模型卡解决「发布前你知道它在干什么」,水印解决「发布后你能认出这是它干的」。

把这套机制和现有的行业实践对比,能看出 Hassabis 的野心。2023-2024 年那一波自律承诺,大多停留在「我们会做红队测试」「我们会发布安全政策」这种原则层面,没有第三方、没有阈值、没有强制力。而 Hassabis 的方案里有明确的**监管主体(独立机构)**、**触发条件(基准阈值)**、**强制手段(分级发布、信息披露义务)**。这是从「承诺」到「制度」的跨越。

行业内的讨论与不同声音

这套方案一出来,业内的反应并不是一边倒的赞同。拆开来看,至少有三种不同方向的质疑。

**第一种是「监管俘获」的担忧。** 批评者指出,如果监管机构采用「行业自律组织」的形式,那么规则的实际制定权就落在头部实验室手里。大实验室有资源建合规团队、有话语权影响基准的设定方式,而小型实验室和开源社区则可能因为合规成本而被挤出。这会形成一种「以安全之名的市场集中」——规则越严,头部越受益。Hassabis 方案的辩护是:独立机构 + 公共权力背书 + 公开基准,三者组合能制衡这种俘获;但批评者会说,这三者里的任何一个在实际操作中都有被稀释的空间。

**第二种是「基准有效性」的争议。** 这一点在行业内争论已久。Noam Brown 等研究者反复指出,现有评测基准普遍缺少关键维度——比如推理预算(reasoning budget)。一个模型在「允许思考 10 秒」和「允许思考 10 小时」下的表现可以差出好几个量级,但如果基准不固定预算,测出来的分数就无法反映真实能力。类似的问题还有很多:基准数据污染(模型训练时见过了测试集)、评测场景与真实部署场景脱节、以及「专为刷分优化」的行为。如果基准本身不可靠,那么「以基准阈值为触发条件」的监管就会既误伤又漏放。

**第三种是「速度与治理的时序矛盾」。** 这是最根本的一层质疑:Hassabis 自己说「速度是工业革命的 10 倍」,那么一个需要「先立规则、再建机构、再培训人员、再迭代基准」的治理流程,怎么可能跟得上?立法周期以年计,模型迭代以月计。批评者的结论是:在这种速度差下,「先建框架再发展」的路径不成立,真正可行的只有「事后修补」——也就是 Hassabis 明确反对的那条路。

这三种质疑各有道理,但它们都没有否定 Hassabis 方案的基本方向,只是指出了执行层面的困难。这本身说明,他提出的「独立监管机构 + 基准阈值 + 信息披露」这个三角,已经成了当前讨论的一个默认坐标系——即使反对者,也在用他的框架来组织反驳。

值得注意的是,这场讨论里还有一类声音值得一提:开源社区的立场。对开源模型来说,「基准阈值触发监管义务」这个设计有天然张力——开源模型的权重一旦发布就无法收回,你无法在它「超过阈值」时阻止它流通。Hassabis 的方案里,水印和模型卡对闭源模型相对可行,但对完全开源、可由用户自行微调的模型,可执行性大打折扣。这也是为什么很多开源派人士对这套框架持保留态度:他们不反对监管,但认为以闭源为前提设计的规则,直接套到开源上会失灵。

横向扩展:把这场讨论放进更大的知识框架

要真正理解 Hassabis 这篇文章,需要把它放到三个更大的脉络里看。

**脉络一:AGI 定义的漂移。** Hassabis 说「AGI 可能只有几年之遥」,但 AGI 到底指什么,业内从来没有共识。早年它指「在几乎所有认知任务上达到人类水平」;后来被拆解成「通用性」和「自主性」两个维度;再后来出现了「能自主完成长程任务」「能做出科学发现」这类更具体的标准。定义越模糊,时间表越容易喊。所以真正值得关注的不是「几年」这个数字,而是他隐含采用的判据是什么——从这篇文章看,他的判据更接近「能够承担科研助理角色、并在长程任务中保持可靠」,这是一个比「通过图灵测试」严格得多的标准。用这个标准说「几年」,分量就比通常的 AGI 乐观论重得多。

**脉络二:AI 治理的两条路线之争。** 一条是**能力路线**(capability-based),以模型的具体能力阈值为触发条件,优点是精准、可量化,缺点是基准滞后、易被规避。另一条是**后果路线**(harm-based),以实际发生的伤害为触发条件,优点是判据真实,缺点是「等伤害发生」意味着监管天然滞后。Hassabis 的方案明显偏向前者,这与他的技术背景一致——他相信能力是可测的。有趣的是,法规层面欧盟 AI 法案走的更接近前者(按风险等级分类),而美国的一些州法走的是后者(针对具体滥用场景立法)。两派的分歧,本质上是「相信测量」和「相信证据」的分歧。

**脉络三:模型卡与水印的技术现实。** 这两项听起来简单,实际都有硬骨头。模型卡的问题是「自愿披露的信息必然是经过挑选的」——没有任何实验室会主动披露对自己不利的评测结果,除非有第三方审计。水印的问题是鲁棒性:文本水印可以通过改写、翻译、摘要被轻易洗掉,图像水印面对重压缩和裁剪也会失效。所以这两项机制的价值,更多在于「提高作恶成本」而非「彻底阻断」。把它们写进监管框架是对的,但期待它们解决问题则是高估了技术现状。

还有一个隐含的脉络是**算力的物理约束**。这一点在同期的多次公开讨论中被反复提到:AI 增长的瓶颈正在从算法转向物理——先是先进制程芯片的产能,然后是支撑这些芯片运行的电力供应。当瓶颈从「想法」变成「电和硅」,经济规律就会接管:投入越多,产出越慢。这也是理解「奇点山麓」这个比喻的另一个角度——山麓之后的爬升,未必是陡峭的能力曲线,也可能是陡峭的成本曲线。

总结与启示

读懂 Hassabis 这篇文章,最关键的不是记住「奇点山麓」这个说法多漂亮,而是理解他为什么选在这个时间点、用这种方式说话。

对开发者而言,有几个判断可以直接借鉴。第一,**基准正在从「排行榜」变成「合规基础设施」**。一旦基准被写进监管条文,它对模型的含义就变了——不再只是「刷分」,而是「能不能发布」的门槛。这意味着做模型评测的人,需要开始考虑「可审计性」这个新维度,而不只是「区分度」。第二,**模型卡和水印会成为标准交付物**。现在很多团队把它们当成可选项,未来更可能是发布流程的必填项,提前建立这套工程习惯的成本远低于事后补齐。第三,**理解「能力拼装」这个风险模式**很有价值:单个模型不过阈值、但多个模型组合起来能完成危险任务,这类风险对「单模型阈值」式的监管是天然的盲区,也是接下来一定会被讨论的问题。

对更广泛的读者,Hassabis 的文章提供的是一个思考框架:当一项技术的迭代速度超过社会制度的适应速度时,正确的应对不是「停下来等制度」,也不是「不管不顾往前走」,而是**先把可测量的部分管起来,同时承认管不住的部分**。他给出的方案不完美——基准会滞后、水印会被洗、自律机构可能被俘获——但它的方向上是对的:监管的起点必须是「可执行的细节」,而不是「动人的宣言」。

最后值得一提的是那篇文章的标题里「Dawning of a New Age」这个说法。它和「奇点的山麓」是同一件事的两种表述:一个是空间隐喻(我们走到了哪里),一个是时间隐喻(什么正在开始)。Hassabis 用这两个比喻同时表达了他的乐观和紧张——他显然相信这件好事正在发生,也显然担心它来得太快。而这份「同时乐观与紧张」,可能正是当前这个阶段最诚实的态度。

参考来源

主要菜单