邦乾配倍 哈萨比斯发表重磅宣言：AGI数年内到来，前沿模型应先审后发

7月14日，Google DeepMind 联合创始人兼 CEO、2024年诺贝尔化学奖得主 Demis Hassabis 在 X 平台发表长文《前沿 AI 的框架与新时代的黎明》（A Framework for Frontier AI and the Dawning of a New Age）。

文章的核心判断直截了当：通用人工智能（AGI）“可能只需短短几年就会到来”，人类“正站在奇点的山脚下”。Hassabis 将 AGI 的意义类比为电和火的发现，并给了一个颇有画面感的说法：“我们本质上找到了一种让沙子思考的方法”。 而这项技术的影响规模将是史无前例的，也许是工业革命的 10 倍，速度也是 10 倍。

在这个判断的基础上，Hassabis 提出了一项具体的政策主张：由美国牵头，建立一个前沿 AI 标准机构。他给这个机构找了一个现成的参照物：FINRA，即美国金融业监管局（Financial Industry Regulatory Authority），一个在美国证券交易委员会（SEC）监督下运作的、由行业出资的自律组织。

Hassabis 设想的 AI 标准机构沿用同样的逻辑：联邦监督、行业出钱、独立专家做技术判断。前沿实验室在模型发布前最多 30 天自愿提交审查；一旦审查机制被证明有效，就从自愿转为强制，前沿模型必须通过测试才能在美国市场部署。这个机构甚至被赋予了一项颇为大胆的权力：在必要时协调前沿实验室放慢开发速度。

过去数月，美国政府围绕前沿 AI 模型的监管动作密集，白宫正在加速与 OpenAI、Anthropic、Google 等公司协商自愿性安全标准框架。Hassabis 今年 3 月就曾公开警告 AI 开发中的“竞速状态”（race conditions），即竞争压力推动实验室在验证安全性之前就急于发布。此次长文以个人名义发表，但作为 Google AI 业务的实际掌舵者，他对监管框架的详细构想在某种程度上可能也是 Google 在 AI 治理议题上的一次正式表态。

以下是全文编译。

这是人类历史上的一个关键时刻。通用人工智能（Artificial General Intelligence，AGI），也就是具备人类大脑全部认知能力的系统，可能只需短短几年便会到来。几十年后回望今天，我想我们会意识到，自己当时正站在通往奇点的山脚下，一个属于人类的新时代正在开启。

我一生都在研究 AGI，因为我始终深信，只要以负责任的方式构建和部署，它就会成为人类发明过的最有益、最具变革性的技术之一。AGI 无法与一般的技术突破相提并论，即便互联网或移动技术这类影响深远的发明也不例外。它更接近于人类发现电或火。仔细想想，我们实际上找到了一种让沙子开始思考的方法。这近乎奇迹。

这项技术带来的影响将前所未有，其规模或许会达到工业革命的 10 倍，发生速度也会是工业革命的 10 倍。它将帮助我们解决社会面对的一些重大问题，包括加快药物研发、开发新的清洁能源、创造先进的新材料。我们甚至可能走到这样一个阶段：资源不再是限制人类进步的因素，一个物质丰裕的新时代由此到来。

前沿地带的挑战

AI 已经开始在现实世界中创造价值。但要兑现它的巨大潜力，我们必须审慎地度过当前这段关键的发展时期。随着 AGI 日益临近，我们需要立即行动，应对可能出现的风险。

前沿模型给网络安全带来的挑战已经显现。随着能力继续提升，核安全、生物安全等领域的威胁也可能很快出现。再往前看，我们需要建立强有力的安全保障，以确保人类仍能控制自主性越来越强、能够递归式自我改进的系统，同时处理那些目前尚不明确、只能随着时间逐渐显现的问题。

我始终相信，人类的智慧和创造力足以解决任何问题。我有信心，AI 带来的技术风险是我们能够共同应对的挑战，前提是我们给自己留下足够的时间和空间，把接下来这个关键步骤做好。眼下，无论 AI 行业还是更广泛的社会，都没有做到这一点。

我们正深陷一场极其激烈、由多重层次交织而成的商业和地缘政治竞赛。这种竞争推动了技术快速进步，让 AI 的巨大益处更快显现，但前沿能力的发展速度已经超过了我们理解这项技术的速度。

世界上没有人确切知道接下来会发生什么，即使专家之间也存在分歧。当不确定性如此之大、利害关系如此重大时，保持审慎的乐观才是明智的选择。

这要求公共政策一面促进创新，一面激励负责任且重视安全的行为；在关键安全问题上推动国际合作；同时认真考虑，应该如何部署 AI，才能让它真正造福社会。

建立前沿 AI 标准机构

AI 的快速进步要求我们采用一种新的前沿模型能力测试方法。这套方法需要动态、灵活，并且足够严格。

凭借自身的经济和技术实力，美国很适合率先建立这样的框架。美国可以设立一个新的标准机构，采用由联邦政府监督的公私合作模式或自律组织模式，类似于美国金融业监管局（Financial Industry Regulatory Authority，FINRA）。该机构的董事会应包括独立的顶尖技术专家和开源社区代表。

这项工作需要大量资金，而且资金很可能主要来自产业界。只有这样，机构才能吸引世界一流的技术人才，并获得开展大规模测试所需的算力资源。

标准机构将负责制定评估规程，并与相关联邦机构及美国国家实验室合作，在涉及国家安全的领域开展测试。

如果一个模型在标准机构设定的一组基准测试中达到特定门槛，它就会被认定为“前沿级”模型。这些基准需要定期更新，以跟上 AI 能力演进的速度。拥有此类“前沿模型”的组织将被认定为“前沿实验室”。

前沿实验室应被鼓励采用一系列最佳实践，包括发布披露技术细节的模型卡、维持高水平的内部网络安全、审查关键岗位人员，以及为安全与安保研究投入充足资源等。

在框架实施初期，前沿实验室可以自愿在模型发布前最多提前 30 天，将模型交给标准机构评估。一旦评估规程被证明有效且稳健，就可以迅速推动制度化。届时，前沿模型必须通过评估，才能在美国市场部署。实验室还需要与标准机构合作，处理模型发布后发现的重大漏洞。

模型评估应采用严格的科学方法，测试其在网络安全、生物威胁以及其他高风险领域的能力。

针对智能体型 AI 的专项测试，可以检查模型是否试图绕过安全护栏，或者是否表现出欺骗迹象。评估还应确保相关方遵循最佳实践，例如为 AI 生成的图像添加数字水印，以及生成便于人类阅读的输出词元，帮助人们理解模型的推理过程。

这些评估需要定期更新。初期可以每季度更新一次，淘汰已经过时或失去区分度的基准，并用新的测试取代。

刚开始时，评估可以由标准机构与前沿实验室共同制定。但最终，标准机构应建立足够的技术能力，独立于实验室设计自己的保留测试集，防止模型针对评估过度拟合。在美国政府的配合下，该机构还可以推动形成一个第三方审计生态，协助开展模型评估，并开发新的基准和测试方法。

这套方案的优势在于，它聚焦技术问题，同时支持创新，激励负责任的行为。它能够跟上 AI 领域的加速发展，并随着重大风险逐渐显现而不断调整。

如果形势的严重程度需要，监管强度还可以进一步提高，包括在必要时协调各家前沿实验室放慢开发速度。

获得“前沿实验室”认定将带来很高的声望。任何组织只要构建出符合基准要求的模型，都可以获得这一身份。

无论一个前沿级模型来自哪个国家，也无论它是开放还是封闭模型，这套框架都可以适用。初创企业或学术机构开发的非前沿模型则不必接受这一流程。

由美国发起的行动，可以成为建立国际前沿 AI 共同标准的重要起点。这项技术将影响整个地球。理想情况下，这套框架能够推动国际社会形成共识：一面管理最严重的风险，一面确保所有人都能接触并受益于 AI 带来的机会。

未来尚未写定

AGI 有潜力成为推动科学和医学进步的终极工具，同时带来巨大的生产率提升和经济增长。

要实现这些目标，我们需要把技术基础打牢：围绕一套全球共同框架展开协调，采用最严格的科学方法，并让最优秀的人才共同解决我们面对的挑战。

即使我们解决了这些艰难的技术问题，仍有更加复杂的经济和哲学问题等待处理：在一个资源不再稀缺的世界里，我们需要怎样的新经济模式，才能让所有人过上富足的生活？我们希望遵循怎样的价值观？人生的意义和目的将是什么？人类的生存状态本身又会发生怎样的变化？

这些问题显然不能、也不应该只交给技术人员。社会的每一个部分都需要参与进来，共同定义这个新的篇章。

围绕 AI，人们既怀有巨大的兴奋，也面对巨大的不确定性。这两种情绪都有充分的理由。

未来尚未写定。我们必须利用 AGI 到来前这段宝贵的窗口期，引导这项技术造福全人类。我们现在共同采取的行动，将决定文明下一个阶段如何展开。

如果能够安全地引导 AGI 进入世界，我们就有机会迈入科学发现与进步的新黄金时代，迎来一个人类空前繁荣的光明未来。

参考资料：

1. https://x.com/demishassabis/status/2076957440109625718

捷希缘提示：文章来自网络，不代表本站观点。