Demis Hassabis

本文讨论 AGI 时代的机遇、风险与治理路径：在人类可能迎来科学发现和丰裕新时代的同时，社会也必须尽快建立动态评估、前沿实验室标准与国际协作机制，为安全、负责任地引导 AGI 争取关键窗口期。 原文：https://x.com/demishassabis/status/2076957440109625718 本文由 LobsterAI 自动翻译和发布。 这是人类历史上的一个关键时刻。 通用人工智能（AGI）——一种具备人脑全部认知能力的系统——很可能只需短短几年便会到来。几十年后，当我们回望今天时，我认为我们会意识到：当时的我们正站在技术奇点的山麓。这绝不亚于一个人类新时代的黎明。 我毕生都在致力于 AGI 的研究，因为我始终坚信：如果能够以负责任的方式构建和部署，AGI 将成为人类有史以来最有益、最具变革性的技术之一。 我们不能把 AGI 与普通的技术突破相提并论。即使是互联网或移动通信这样影响深远的技术，也不足以与它相比。AGI 更接近于电或火的发现。 如果你停下来仔细想一想，就会发现，我们实际上已经找到了一种让沙子进行思考的方法。这简直是奇迹。 这项技术带来的影响规模将前所未有——或许相当于以十倍的速度，带来十倍于工业革命的影响。 它将帮助我们解决社会面临的一些最大难题：加速药物发现、开发新的清洁能源、创造新型先进材料。我们甚至可能抵达这样一个阶段：资源不再是限制人类进步的因素，由此开启一个令人惊叹的全新丰裕时代。 前沿领域面临的挑战 人工智能已经开始带来现实世界的益处，但要真正实现它的巨大潜力，我们必须深思熟虑、谨慎地度过这一关键发展时期。 随着我们逐渐接近 AGI，必须立即采取行动，应对可能出现的风险。我们已经看到前沿模型给网络安全带来的挑战；随着能力不断增强，包括核风险和生物风险在内的其他威胁，可能也将很快出现。 放眼未来，我们需要建立强有力的安全保障，以确保人类能够控制那些自主性不断增强、可以递归式自我改进的系统，同时还要处理那些只有随着时间推移才会逐渐显现的未知问题。 我一直相信，人类的聪明才智和创造力足以解决任何问题。我有信心，与人工智能相关的技术风险，是一项我们能够共同应对的挑战——但前提是，我们必须为自己争取到足够的时间和空间，正确完成接下来这个至关重要的步骤。 而目前，无论是作为一个研究领域，还是作为一个更广泛的社会，我们都没有做到这一点。 眼下，我们正深陷于一场极其激烈、多层次的商业与地缘政治竞赛之中。尽管这些竞争动力推动了快速进步，加速释放了令人难以置信的巨大收益，但前沿技术的发展速度，已经超过了我们对这项技术的理解速度。 世界上没有任何人能够确定接下来究竟会发生什么，即使专家之间也存在分歧。 当不确定性如此巨大，而赌注又如此之高时，以谨慎的乐观态度继续前进，才是合理而正确的策略。 这要求我们制定相应的公共政策：既促进创新，又激励责任意识与安全保障；推动围绕关键安全问题开展国际合作；并鼓励社会认真思考，应当如何部署人工智能，才能真正造福社会。 前沿人工智能标准机构框架 我们在人工智能领域看到的迅猛进展，要求我们采用一种全新的前沿人工智能模型能力测试方法。这种方法必须具备动态性、适应性和严谨性。 凭借其经济与技术地位，美国具备良好的条件，可以迈出建立这套框架的第一步。 美国可以成立一个新的标准机构。该机构可参考由联邦政府监督的公私合作伙伴关系，或类似金融业监管局（FINRA）的自律组织模式；其董事会应包括独立的顶尖技术专家和开源社区代表。 为了吸引世界一流的技术人才，并提供开展大规模测试所需的计算资源，该机构必须获得充足的资金，而这些资金很可能主要来自产业界。 该标准机构将负责制定评估协议，并与适当的联邦机构及美国国家实验室合作，在与国家安全相关的领域开展测试。 如果一个模型在标准机构制定的一系列基准测试中达到特定阈值，它就会被认定为“前沿级”模型。这些基准将定期更新，以跟上不断演进的人工智能能力。 按照这些基准，被认定拥有“前沿模型”的组织，将被视为“前沿实验室”。这些实验室应被鼓励采用最佳实践，例如：发布包含技术细节的模型卡；维持强有力的内部网络安全措施；对关键人员进行审查；为安全与保障研究提供充足资源；以及采取其他相关措施。 在初期阶段，前沿实验室可以在模型发布前最多 30 天，自愿向标准机构提交模型以供审查。 一旦这套评估协议被证明有效且足够稳健，就可以迅速将其正式制度化。这意味着，前沿模型必须通过评估，才能在美国市场进行部署。 实验室还应与标准机构合作，处理模型发布后发现的任何重大漏洞。 模型评估应包括针对网络安全、生物威胁以及其他高风险领域能力的严格科学测试。 针对智能体型人工智能的专项测试，可以检查模型是否试图绕过安全护栏、是否表现出欺骗迹象；同时确保落实最佳实践，例如为人工智能生成的图像添加数字水印，以及生成便于人类理解的输出标记，从而帮助人们理解模型的推理过程。 这些评估应定期更新，初期或许可以每季度更新一次。已经过时或失去区分度的基准，应被淘汰并替换。 最初，这些评估可以在与前沿实验室协商的基础上制定。但最终，标准机构应当建立自身的技术能力，独立于各实验室设计未公开的保留测试，以防止模型针对测试产生过度拟合。 该机构还可以与美国政府合作，推动建立由第三方审计机构组成的生态系统，协助开展评估，并开发新的基准和评价方法。 这种方案的优势在于：它以技术为核心，同时又能够支持创新，并激励负责任的行为。 它的设计目标，是跟上这一领域不断加速的发展节奏，并随着重大风险逐渐被识别而作出调整。如果形势的严重性需要，还可以进一步提升管控力度——包括在被认为必要时，协调各前沿实验室放慢研发速度。 获得“前沿实验室”资格将具有极高的声望。任何组织，只要其构建的模型符合基准条件，都有机会获得这一资格。 这套框架可以适用于所有前沿级模型，无论模型来自哪个国家，也无论它是开源还是闭源。与此同时，来自初创企业或学术机构的非前沿模型，则可免于接受这一流程。 这项由美国发起的行动，将为建立有关前沿人工智能的共同国际标准提供一个强有力的起点。 由于这项技术将影响整个星球，理想情况下，这套框架应当推动国际社会就如何管理最严重的风险达成共识，同时确保每个人都能够接触人工智能，并从它带来的机会中受益。 未来尚未被写定 AGI 有潜力成为推动科学与医学进步的终极工具，并带来巨大的生产力提升和经济增长。 但为了实现这一目标，我们必须首先打好技术基础：围绕一套全球共享的框架开展协调，采用最严格的科学方法，并汇聚最优秀的人才，共同解决我们所面临的挑战。 即使我们解决了这些艰难的技术问题，仍然会有更加复杂的经济与哲学问题需要处理： 在一个资源不再稀缺的世界里，需要怎样的新经济模式，才能帮助每个人蓬勃发展？ 我们希望依据怎样的价值观生活？ 意义与目标将是什么？ 甚至人类自身的处境，又可能发生怎样的改变？ 显然，解决这些问题不能、也不应该只交给技术专家。它需要社会的每一个组成部分共同参与，一起定义这个全新的篇章。 围绕人工智能，人们既无比兴奋，又充满不确定性——而这两种感受都是有充分理由的。 但未来尚未被写定。...

Google DeepMind 联合创始人兼首席执行官 Demis Hassabis 在 2026 年世界经济论坛期间接受了彭博社的专访，其中讨论了 AI 未来几年的发展，包括基础模型、实际应用和负责任的 AI 开发方面的进展。以下为原视频精华，本文由我和 Gemini 3 Pro 共同整理而成。 在达沃斯的聚光灯下，Google DeepMind 的掌门人 Demis Hassabis 显得既自信又紧迫。 这一年，对于 Google 来说，不仅是反击的一年，更是重塑自我的一年。从旧金山到瑞士，关于 Google 是否“找回了魔力”的讨论从未停止。面对镜头，Demis 没有回避那个著名的内部代号——“红色代码（Code Red）”。 “过去几年，不仅是我们要夺回技术高地，更是一场关于速度的革命。”Demis 坦言。 这篇文章将带你深入 Demis Hassabis 的大脑，探讨 Google 的绝地反击、他对中国 AI 竞争的真实看法、那个著名的 2030 年 AGI 预测，以及当人类不再需要工作时，我们将何去何从。 假如 Google 像创业公司一样奔跑 过去一年，Google 最大的变化是什么？Demis 形容这是一种“创业公司般的能量”。 曾几何时，Google 被认为在 AI 浪潮中反应迟缓。但 Demis 指出，Google 和 DeepMind 在过去十年实际上发明了现代 AI 产业所依赖的 90% 的突破性技术——包括大名鼎鼎的 Transformer 架构和 AlphaGo 的深度强化学习。 现在的挑战在于如何将这些积淀转化为产品。“我们将 DeepMind 和 Google 的研究部门合并，首要任务就是确保我们的模型在所有基准测试中都达到最先进水平（State of the Art）。”随着 Gemini 系列模型的推出，尤其是多模态能力的展现，Google 正试图证明它不仅拥有全栈优势——从底层芯片（TPU）、数据中心到云业务和顶尖实验室——更拥有了快速迭代的执行力。...

本文整理自 Anthropic CEO Dario Amodei 与 Google DeepMind CEO Demis Hassabis 在达沃斯论坛的罕见同台，这场对话围绕 AGI 的实现时间线、AI 自我改进循环的风险、对就业市场的影响以及 AI 带来的地缘政治挑战展开。以下为原视频精华，本文由我和 Gemini 3 Pro 共同整理而成。 如果说 AI 圈有摇滚巨星，那这大概就是“披头士”遇到了“滚石乐队”。一边是谷歌 DeepMind 的 CEO Demis Hassabis，另一边是 Anthropic 的 CEO Dario Amodei。这一幕发生在最近的一场深度对谈中，主题虽然叫“AGI 之后的一天”，但两人显然更关心我们到底还要多久才能这扇大门，以及在这之前我们会不会先把事情搞砸。 这场对话信息量极大，从极其激进的收入预测到对芯片出口的犀利抨击，再到对人类未来的哲学思考。 1. 倒计时：2026 年还是 2030 年？ 关于 AGI（通用人工智能）何时到来，两位的看法出现了微妙但关键的分歧。 Dario（Anthropic）显得非常激进。 还记得他以前预测 2026 或 2027 年就能出现超越诺贝尔奖得主水平的模型吗？他现在依然坚持这个观点。 他的逻辑很简单：闭环加速。现在工程师已经很少自己写代码了，他们是在让模型写代码。Dario 预测，大概再过 6 到 12 个月，模型就能端到端地完成大部分软件工程师的工作。一旦模型能高效地编写代码来改进下一代模型，这种指数级的自我进化将非常恐怖。 Demis（DeepMind）则相对稳健一些。 他依然维持去年“本十年末（2030左右）”的预测。Demis 的观点是：写代码和解数学题容易，因为结果是非黑即白的，好验证。但在自然科学领域（比如生物、物理），你光有一个假设不行，还得去实验室做实验验证。这个物理世界的验证过程会拖慢进度。而且，目前的模型虽然能解题，但还缺乏“提出好问题”的科学创造力。 有趣的是，在这个时间线上，Dario 甚至半开玩笑地说：“如果可以选择，我更喜欢 Demis 的时间表，多给我们人类几年准备时间挺好的。” 2. 只有“卷王”才能活下来：Anthropic 的疯狂增长曲线 在谈到作为一家“独立模型厂商”是否能活到盈利那一天时，Dario 甩出了一组让人瞠目结舌的数据。 他说，随着模型变强，不仅算力投入是指数级的，产生的收入也是指数级的。听听 Anthropic 的这一连串数字：...

本文整理自 Lex Fridman 对 Google DeepMind CEO Demis Hassabis 的访谈，访谈中他们讨论了AI 的未来，模拟现实、物理和视频游戏，以及最后 Hassabis 给出了当前 AI 时代的生存法则。 Demis Hassabis：从电子游戏到模拟宇宙，AI正在揭开现实的终极奥秘 如果你有机会和当今世界上最聪明的大脑之一聊一聊，你会问些什么？也许是关于宇宙的终极谜题，比如P vs NP问题，或是生命的起源。又或者，你会和他聊聊电子游戏，那个我们许多人魂牵梦绕的虚拟世界。 幸运的是，Lex Fridman最近在他的播客上就和这样一位人物——Google DeepMind的负责人、诺贝尔奖得主Demis Hassabis——进行了一场深入的对谈。他们的谈话跨越了从理论物理到AI伦理，从模拟一个完整的细胞到创造一个真正开放的游戏世界。这不仅仅是一场技术访谈，更像是一次对现实本质、人类未来以及我们在这个宇宙中位置的哲学探索。 Hassabis的观点，就像他领导的AI一样，总能带给我们意想不到的启发。 自然的秘密，其实都可以被“学习”？ 在获得诺贝尔奖的演讲中，Hassabis提出了一个颇具“挑衅性”的猜想：“任何能在自然界中找到或生成的模式，都可以被一个经典的机器学习算法有效地发现和建模。” 这听起来有点疯狂，但仔细想想，这背后是他多年科研经验的深刻洞察。无论是AlphaGo在围棋中那看似无穷的变化，还是AlphaFold在蛋白质折叠这个巨大的组合空间中寻找答案，它们面对的都是一个“暴力破解”方法在宇宙终结前都无法解决的问题。 那它们是怎么做到的呢？答案是，这些系统通过学习，构建了一个关于环境的“模型”，从而能用一种更聪明的方式进行搜索，让难题变得“可解”。 Hassabis认为，这之所以可能，是因为自然本身就不是随机的。 “自然系统充满了结构，因为它们经受了进化过程的塑造。无论是生命体的演化，山脉被风化的形状，还是行星的轨道，它们都经历了一遍又一遍的筛选过程，可以称之为‘最稳定者生存’。” 如果一个系统是经过这种非随机过程形成的，那么它内部必然存在某种可以被学习和逆向工程的“结构”或“模式”。神经网络恰恰最擅长发现和利用这种结构，沿着某种梯度找到解决方案。这就像蛋白质在我们的身体里，只需要几毫秒就能完成折叠一样，物理世界本身就在高效地解决这个问题。AI所做的，就是学习并模仿这个过程。 这个猜想的适用范围可能非常广，从生物、化学到物理，甚至宇宙学和神经科学。但它也有边界。比如，对大数进行质因数分解这类纯粹的数学难题，如果数字本身没有内在模式，AI就无从“学习”，这时可能就需要量子计算机这样的“蛮力”工具了。 P vs NP：一个物理问题，而非数学游戏 这个关于“可学习宇宙”的观点，直接触及了理论计算机科学中最核心的问题之一：P vs NP。 简单来说，P类问题是计算机能快速解决的，而NP问题是答案一旦给出就很容易验证，但找到答案却异常困难。P是否等于NP，本质上是在问：所有我们能快速验证答案的问题，是否也都能被快速解决？ Hassabis将这个问题提升到了一个新的高度。他认为，如果我们把宇宙看作一个巨大的信息处理系统——信息比能量和物质更基本——那么P vs NP就不再仅仅是数学家的游戏，而变成了一个物理学问题。 AlphaFold的成功就是一个活生生的例子。蛋白质折叠曾被认为是NP难题，许多人甚至认为需要量子计算机才能模拟。但AlphaFold，一个运行在经典计算机上的神经网络，却做到了。这证明，至少对于某些看似棘手的自然问题，经典系统比我们想象的要强大得多。 这是否意味着，我们可以定义一个新的复杂性类别，比如“可学习的自然系统”（LNS, Learnable Natural Systems）？这个类别里的问题，虽然理论上可能很难，但因为其源于自然，拥有可学习的结构，所以能够被AI在多项式时间内高效解决。 我们可能正不断地被经典计算机的能力所震惊。无论是AlphaFold 3对蛋白质与DNA/RNA相互作用的建模，还是AlphaGenome将基因编码与功能联系起来，AI似乎总能从看似无限的组合可能性中，找到那个可以被高效建模的核心。 连流体动力学都能“悟”出来？ 就连那些传统上被认为极难处理的非线性动力系统，比如涉及纳维-斯托克斯方程的流体动力学（想想天气预报的复杂计算），也可能并非无法攻克。 Hassabis兴奋地提到了Google的视频生成模型Veo。 “你看看Veo，它对液体、材质和镜面光照的模拟好得惊人。我最喜欢看那些生成的视频，比如液压机挤压装满透明液体的容器。我年轻时在游戏行业写过物理引擎和图形引擎，我知道从零开始编程实现这些效果有多么痛苦。但这些AI系统，仅仅通过观看YouTube视频，似乎就逆向工程出了物理规律。” 这背后发生了什么？AI很可能从海量视频中提取出了关于物质行为的某种底层结构，一个可以被学习的“低维流形”。如果这个猜想成立，那么我们所处的大部分现实，可能都存在这样的“捷径”等待被发现。 Veo与游戏世界：AI正在构建“世界模型” Veo对物理世界的直观理解，让许多人（包括Hassabis自己）都感到惊讶。这动摇了一个长期以来的观念：要理解物理世界，AI必须是一个能与世界互动的机器人（即所谓的“具身智能”）。 但Veo证明，通过被动观察，同样可以学到深刻的物理直觉，就像一个孩子通过观察来理解世界一样。它不一定能写出物理公式，但它“知道”物体应该如何运动、光线应该如何反射。 这不仅仅是为了生成酷炫的视频。当这种模拟变得足够逼真，并且能够实时交互时，我们就离Hassabis心中的“圣杯”——一个真正的世界模型——不远了。 这自然而然地引向了他最初的挚爱：电子游戏。 Hassabis在青少年时期就是一名出色的游戏AI设计师，他参与制作的《主题公园》（Theme Park）和《黑与白》（Black & White）等都是开放世界游戏的先驱。他一直梦想着创造一个真正自由的、由玩家和AI共同叙事的游戏。 在过去，这几乎是不可能的。开发者无法为玩家每一个可能的选择都预先创造好内容，所谓的“选择”往往只是假象。但现在，情况不同了。 “想象一个交互版的Veo，再把它快进五到十年。我们可能正处在一个新时代的风口浪尖上。AI系统将能够围绕你的想象力动态地创造内容，无论你选择做什么，它都能生成引人入胜的故事情节。这将是终极版的‘选择你自己的冒险’游戏。” 这是一种深度的个性化体验。你打开的每一扇门背后的世界，都是为你即时生成的，独一无二。对于像Hassabis和伊隆·马斯克这样的资深玩家来说，这无疑是终极梦想。Hassabis甚至开玩笑说，等AGI被安全地引导到世界之后，他的“退休”计划之一就是投身于物理理论，另一个就是用AI技术做一款这样的游戏。在他看来，这两件事是相通的——因为一个尽可能真实的模拟游戏，本身就是对“宇宙是什么”以及“P vs NP”这些终极问题的探索。 AGI之路：不只是扩大规模，还需要“品味”和“顿悟” Hassabis乐观地预测，我们有50%的可能在2030年前实现通用人工智能（AGI）。但他设定的标准非常高：AGI必须具备人类大脑那样的全面认知能力，而不是在某些方面超强、在另一些方面却漏洞百出的“锯齿状智能”。...