本文是 Anthropic 的 CEO Dario Amodei 所写。Dario 曾担任 OpenAI 的研究副总裁，领导了 GPT-2 和 GPT-3 等大型语言模型的开发。他也是根据人类反馈进行强化学习的共同发明者。在加入 OpenAI 之前，他曾在 Google Brain 担任高级研究科学家。

文中 Dario Amodei 探讨了强大人工智能（AI）对未来世界的潜在积极影响。他强调，尽管人们对 AI 风险的关注是必要的，但 AI 的正面潜力同样不可忽视。他认为，AI 可以通过加速科学发现、改善人类健康、减少贫困、促进全球和平与民主等方式，极大地提升人类生活质量。Amodei 描述了一个“如果一切顺利”的未来，AI 将在多个领域带来革命性进步，尤其是在生物学、神经科学、经济发展、治理和人类工作的意义等方面。

AI 的潜力与风险：
- Amodei 强调，尽管 AI 的风险不容忽视，但 AI 的潜在好处可能比大多数人预期的更加激进。通过有效管理这些风险，AI 可以带来一个更美好的未来。
AI 在五大领域的应用：
- 生物学与健康：AI 可以加速生物学发现，解决疾病问题，延长人类寿命，甚至可能在 5-10 年内实现 50-100 年的科学进展。AI 将不仅仅是分析工具，而是成为“虚拟生物学家”，通过设计实验、控制实验室设备等方式推动生物医学的突破。
- 神经科学与心理健康：AI 将帮助理解和治疗精神疾病，如抑郁症、精神分裂症等。通过结合生物学、神经测量和行为干预，AI 可能在 5-10 年内治愈大部分精神疾病，并提升人类的认知和情感自由。
- 经济发展与贫困：AI 有潜力通过优化健康干预、提高生产力和促进经济增长，帮助发展中国家赶上发达国家。然而，AI 也面临腐败和人类复杂性等挑战。
- 和平与治理：AI 的发展可能会影响全球的民主与专制斗争。Amodei 提出了“民主联盟”策略，建议通过 AI 增强民主国家的军事和经济优势，以遏制专制国家的扩张。
- 工作与意义：尽管 AI 可能取代许多工作，但人类仍然可以通过与 AI 协作找到新的经济和社会角色。Amodei 提出，未来的经济可能需要重新设计，可能包括普遍基本收入等新形式的经济结构。
AI 对社会结构的影响：
- 健康与寿命：AI 可能在未来几年内消除大部分疾病，延长人类寿命，甚至实现“生物自由”，让人们能够控制自己的生物过程。
- 治理与民主：AI 有潜力改善民主治理，减少偏见，增强法律系统的公平性，并通过提供更透明的信息流动，削弱专制政权。
- 经济转型：AI 可能带来前所未有的经济增长，尤其是在发展中国家。然而，如何确保技术的公平分配和防止社会不平等的加剧，将是一个重要的挑战。
未来的愿景：
- Amodei 描绘了一个“压缩的 21 世纪”，即在 AI 的推动下，未来 5-10 年内的科技进步将相当于人类本世纪的全部进展。他呼吁人们为实现这一愿景而共同努力，并强调 AI 发展不仅需要技术上的进步，还需要社会、经济和政治的协调。

充满爱意的机器

AI 如何改变世界让生活更美好

2024.10

我经常思考和谈论强大 AI 所带来的风险。我是 Anthropic 公司的 CEO，我们公司在如何降低这些风险上做了大量研究。因此，有时人们会得出结论，认为我是一个悲观主义者或“末日论者”，认为 AI 主要会带来负面影响或危险。但我完全不这么认为。事实上，我专注于风险的一个主要原因是，它们是我们与我认为的一个美好未来之间的主要障碍。我认为，大多数人低估了 AI 所能带来的革命性积极影响，正如大多数人也低估了其风险的潜在严重性。

在这篇文章中，我将尝试勾勒出这种积极前景——如果一切顺利，强大 AI 的世界可能是什么样子。当然，没有人能准确预测未来，而强大 AI 的影响可能比以往任何技术变革都更加难以预料，因此我的推测难免带有不确定性。但我希望这些推测至少是基于理性的、有用的，能够大致反映未来的方向，哪怕其中的细节最终有误。我加入了很多具体的细节，主要是因为我认为，具象的愿景比抽象、谨慎的讨论更能推动实际的对话。

不过首先，我想简要解释一下，为什么我和 Anthropic 之前并没有太多谈论强大 AI 的正面潜力，以及我们为什么可能还会继续着重讨论风险。之所以做出这样的选择，主要基于以下几点考虑：

最大化影响力：AI 技术的基本发展及其带来的许多（虽然并非全部）益处，似乎是不可避免的（除非风险使这一切脱轨）。它的发展本质上受强大市场力量的驱动。相反，风险并非必然发生，我们的行动可以极大地改变其发生的可能性。
避免宣传的嫌疑：AI 公司一味宣扬 AI 的好处，容易让人觉得是宣传手段，或者是在转移人们对负面影响的注意力。同时，我也认为，作为一种原则，过度“推销”自己的观点不利于长期发展。
避免夸大：我常常对一些 AI 风险领域的公众人物（以及一些 AI 公司的领导者）如何谈论 AGI 之后的世界感到反感，他们似乎将自己视为带领人类走向“救赎”的先知。我认为，将公司视为单方面塑造未来的力量，以及将技术目标视为宗教使命，都是危险的。
避免“科幻感”包袱：尽管我认为大多数人低估了 AI 的正面潜力，但在少数讨论激进 AI 未来的群体中，常常充斥着过于“科幻”的讨论（如上传意识、太空探索或赛博朋克氛围）。这种语气让人难以严肃对待这些讨论，反而让它们显得有些不切实际。问题并不在于这些技术是否可能，而是这种“氛围”往往夹杂着隐含的文化假设，以及对未来的某些理想化设想，导致讨论失去现实感。

尽管有上述担忧，我仍然认为，讨论强大 AI 所能带来的美好未来是非常重要的，同时尽量避免上述问题。事实上，我认为有必要提出一个鼓舞人心的未来愿景，而不仅仅是应对风险的计划。尽管强大 AI 的许多影响可能具有对抗性或危险性，但最终我们应该有一个值得为之奋斗的目标，一个能够让每个人都受益的正和结果，激励人们团结一致，迎接未来的挑战。恐惧是一种激励手段，但它并不够——我们还需要希望。

强大 AI 的正面应用领域非常广泛（包括机器人、制造业、能源等），但我将集中讨论几个我认为最有可能直接提升人类生活质量的领域。以下是我最为期待的五大领域：

生物学领域的突破与身体健康改善
神经科学与心理健康
经济发展与减贫
和平与治理
工作与人生意义

我的预测按照大多数标准来看将是激进的（但与科幻“奇点”愿景[^2]不同），但我是诚心诚意的。正如我之前所说，我的观点很容易出错，但我至少试图基于各领域的进展速度，做出一定的分析性预测，并推测这些进展在实际中的意义。我很幸运在生物学和神经科学领域拥有专业经验，同时在经济发展领域也有所涉猎，但我肯定还会有许多错误。写这篇文章让我意识到，集合一个跨领域专家团队（生物学、经济学、国际关系等），撰写出比我现在的文章更为全面且准确的版本，应该是非常有价值的。或许最好将我这篇文章视为为该团队提供的初步讨论框架。

基本假设和框架

为了让这篇文章更加精确并有据可循，明确我们所说的“强大 AI”是什么（即从何时开始计算未来5-10年），以及构建出一个分析它影响的框架是很有帮助的。

关于强大 AI（我并不喜欢“AGI”这个术语）[^3]的样貌以及何时（或是否）它会到来，已经是一个庞大的话题。我在公开场合谈过这个问题，或许未来会写一篇完整的文章专门探讨它。显然，很多人怀疑强大 AI 是否会很快出现，甚至有些人认为它可能永远不会出现。我认为它可能最早会在 2026 年到来，但也可能需要更长时间才能实现。然而，为了本文的目的，我希望暂且搁置这些讨论，假设它将在不久的未来到来，并集中讨论它到来后的5-10年间会发生什么。我还想假设一种定义，去描绘这样一个系统 会是什么样子、它的能力以及它如何与世界互动，尽管这些方面仍有讨论空间。

我心目中的强大 AI，可能是一个类似于当今大语言模型（LLM）的 AI 模型，虽然它可能基于不同的架构，可能由多个交互模型组成，也可能采用不同的训练方式，但它具备以下特征：

在纯粹智能方面[^4]，它在生物学、编程、数学、工程、写作等大多数相关领域都超越了诺贝尔奖得主。这意味着它可以证明尚未解决的数学定理，写出极为优秀的小说，甚至从零编写复杂的代码库。
除了是一个“聪明的对话对象”之外，它还能够使用所有人类在虚拟工作中使用的“接口”，包括文本、音频、视频、鼠标和键盘控制以及互联网接入。它能够通过这些接口进行任何虚拟操作、沟通或远程操控，包括在互联网上执行操作、给人类下达或接收指令、订购物资、指导实验、观看视频、制作视频等。它的技能水平超越了世界上最有能力的专家。
它不仅仅是被动地回答问题；它可以接受任务，耗时数小时、数天甚至数周完成，并能像一个聪明的员工一样自主处理任务，在必要时寻求澄清。
它没有物理实体（除了存在于计算机屏幕上），但它能够通过计算机操控现有的物理工具、机器人或实验设备；理论上，它甚至可以为自己设计机器人或设备。
训练这种模型所需的资源可以被重新用于运行数百万个模型实例（符合 2027 年的集群规模预测），并且该模型能够以人类的10倍至100倍的速度吸收信息和生成行为[^5]。然而，它可能会受到物理世界或与之交互的软件的响应时间的限制。
这数百万个实例可以各自独立完成不相关的任务，或者如有需要，它们可以像人类团队一样协作，或许某些子群体可以专门从事某些特定任务。

可以把它总结为“数据中心中的天才国度”。

显然，这样的实体能够非常快速地解决非常复杂的问题，但要准确估计它能多快完成这些任务并不容易。有两种“极端”观点对我来说都不合理。首先，你可能认为世界会在几秒或几天内彻底改变（即所谓的技术奇点），因为超级智能会自我增强，并迅速解决所有科学、工程和运营难题。但问题在于，仍然存在诸如硬件建设或生物实验等现实的物理和实践限制。即使有了一个“天才国度”，它也会碰到这些瓶颈。智能可能非常强大，但它不是魔法。

另一方面，你也可能认为技术进步已经达到极限，或被现实世界中的数据或社会因素所限制，超越人类的智能不会带来多大帮助[^6]。但这同样不太可信——我能想到数百个科学或社会问题，如果有一大群聪明的个体，他们的介入将极大加快进展，特别是当他们不仅仅限于分析，还能促成实际进展时（我们的“天才国度”可以通过指导或协助人类团队做到这一点）。

我认为，事实很可能是一种复杂的混合体，具体情境因任务和领域而异，细节非常微妙。我相信我们需要新的框架，以一种更有效的方式来思考这些复杂的细节。

经济学家经常谈论“生产要素”：如劳动力、土地和资本。“劳动力/土地/资本的边际回报率”这一概念解释了在某种情况下，某一要素是否是瓶颈。例如，空军需要飞机和飞行员，如果没有足够的飞机，增加飞行员的数量就无济于事。我认为在 AI 时代，我们应该讨论智力的边际回报[^7]，并且需要弄清楚那些与智力互补、在智力高度发达时成为瓶颈的其他要素。我们不习惯以这种方式来思考——去问“更高的智力对这项任务有多大帮助，它能在多长时间内产生效果？”——但这似乎是理解强大 AI 时代的正确思路。

我猜测一些限制智力或与之互补的要素包括：

外部世界的速度。智能体需要与世界交互，才能完成任务并学习[^8]。但世界的运转速度有限。细胞和生物体的运行速度是固定的，实验时间是无法进一步缩短的。硬件、材料科学、与人类沟通，甚至现有的软件基础设施也是如此。此外，科学实验往往需要按序进行，前一个实验的结果会影响下一个实验。因此，像开发癌症治疗这样的重大项目，其完成速度可能有一个不可压缩的最低时间，即使智力水平不断提高也无济于事。
数据的需求。有时缺乏原始数据，更多的智能也无济于事。今天的粒子物理学家极富创新精神，已经提出了大量理论，但由于粒子加速器数据十分有限，他们无法在这些理论间做出选择。即使超级智能也只能稍微加快这一进展，比如加快建设更大的加速器。
内在复杂性。某些现象本质上是不可预测的或混沌的，即使是最强大的 AI 也无法比今天的科学家或计算机有更大突破。例如，即使是超级智能也只能稍微提前预测三体问题的结果[^9]，相比当前的人类和计算机，提升幅度有限。
人类的限制。很多事情不能在不破坏法律、伤害人类或破坏社会的情况下完成。一个对齐的 AI 不会想要做这些事情（如果是未对齐的 AI，那我们又回到了风险讨论）。很多人类社会结构效率低下，甚至可能有害，但在不违反法律的前提下，它们难以改变，比如临床试验的法律要求、公众意愿的改变，或者政府的行为。例如，核能、超音速飞行甚至电梯建设等技术，虽然技术上可行，但它们的影响往往因法规或无根据的恐惧而被大大削弱。
物理定律。这是上述第一个限制的更极端版本。有些物理定律似乎是不可打破的，比如我们无法超过光速，布丁搅拌后无法恢复原样。芯片的晶体管密度在达到一定程度后会变得不可靠[^10]。每擦除一个比特信息需要最低的能量，这限制了计算的密度。

此外，依据时间尺度的不同，某些短期内的限制可能会随着时间的推移而被智力逐步突破。例如，智力可以被用于开发新的实验范式，使得过去需要活体实验的研究能在体外进行，或者构建新的工具以获取更多数据（如更大的粒子加速器），甚至在道德范围内找到绕过人类限制的方法（如帮助改进临床试验制度、创建新的司法管辖区以减少官僚作风，或提升科学水平，使得人类临床试验变得更便宜或不再必要）。

因此，我们应设想一种图景：最初，智力受限于其他生产要素，但随着时间推移，智力将逐渐绕过这些瓶颈，即使它们永远不会完全消失（例如物理定律是不可改变的）。关键问题在于，这一过程的速度以及它们发生的先后顺序。

在上述框架的基础上，我将尝试回答本文开头提到的五大领域的问题。

1. 生物学与健康

生物学可能是科学进步中最能直接且清晰提升人类生活质量的领域。上个世纪，人类终于战胜了像天花这样古老的疾病，但许多其他疾病仍然存在，而彻底消灭这些疾病将是一项巨大的慈善壮举。除了治愈疾病之外，生物科学还能够从根本上改善人类健康的基本状态，包括延长健康寿命、增强我们对自身生物过程的掌控力，并解决那些我们目前认为无法改变的人类日常困境。

根据上一部分提到的“限制因素”，智能在生物学领域的应用面临的主要挑战在于数据、物理世界的速度和系统的内在复杂性（事实上，这三者相互关联）。而在人类实验阶段，临床试验也带来了一定的限制。接下来我们分别探讨这些问题。

对细胞、动物甚至化学过程的实验受到物理世界速度的限制：许多生物实验过程都需要培养细菌或细胞，或者等待化学反应发生，而这一过程往往需要几天甚至几周，无法通过现有技术明显加速。动物实验可能需要几个月的时间（甚至更久），而人类实验则通常需要数年时间（对于长期效果研究，甚至可能需要几十年）。与此相关的还有数据问题，虽然数据量足够，但数据质量往往不足：我们缺乏清晰明确的数据，能够从同时发生的成千上万个干扰因素中隔离出感兴趣的生物效应，或者能够在特定过程中进行因果干预，或直接测量某种效应（而不是通过某种间接或噪声方式推测其结果）。即使是我通过质谱分析技术收集的大量分子数据（如蛋白质组数据），也存在噪声并且遗漏了大量信息（这些蛋白质在哪种细胞中？在细胞的哪个部分？处于细胞周期的哪个阶段？）。

这些数据问题的部分原因在于系统的内在复杂性：如果你曾经见过一张描述人体代谢反应的生化图表，你就会知道，在这个复杂系统中，隔离某个特定部分的效应是极其困难的，更别提精确地对系统进行干预了。最后，除了执行人体实验本身所需的时间外，实际的临床试验还涉及大量的官僚程序和监管要求，这些（包括我在内的许多人认为）人为地增加了额外的时间成本并延缓了进展。

鉴于这些挑战，许多生物学家长期以来对 AI 及其在生物学中的“数据驱动”应用持怀疑态度。过去 30 年中，虽然数学家、计算机科学家和物理学家在将其技能应用于生物学的过程中取得了不少成功，但并没有带来最初所期待的变革性影响。尽管有像 AlphaFold（其创造者刚刚获得诺贝尔化学奖）和 AlphaProteo 这样的重大突破，但仍然有人认为 AI 仅在有限的情况下具有价值。常见的观点是：“AI 可以更好地分析数据，但不能生成更多数据或提高数据质量。输入数据不佳，输出结果自然也不佳。”

但我认为这种悲观的观点对 AI 的理解是错误的。如果我们对 AI 进步的核心假设是正确的，那么我们应将 AI 视为一个虚拟的生物学家，而不是仅仅用来进行数据分析的工具。AI 可以执行所有生物学家所做的工作，包括设计和运行现实世界的实验（通过控制实验室机器人，或像首席研究员指导研究生那样指导人类进行实验），发明新的生物学方法或测量技术等。正是通过加速整个研究过程，AI 才能真正推动生物学的发展。我想再次强调这一点，因为这是讨论 AI 如何变革生物学时最常见的误解：我不是说 AI 只是一个分析数据的工具。根据本文开头对强大 AI 的定义，我是说 AI 能够执行、指导并改进几乎所有生物学家所做的工作。

具体来说，生物学的进步大多来自少数几项重大发现，通常这些发现与广泛的测量工具或技术相关，这些技术允许我们对生物系统进行精确、通用且可编程的干预。每年大约会有一项这样的重大发现，它们共同推动了生物学超过 50% 的进展。这些发现之所以如此重要，正是因为它们能够突破系统的复杂性和数据的局限性，直接增强我们对生物过程的理解和控制。每十年几项的发现，不仅推动了我们对生物学基础科学的基本认识，还促成了许多最有效的医学治疗。

一些典型的例子包括：

CRISPR：一种允许对活体生物任意基因进行编辑的技术。自该技术发明以来，不断有针对特定细胞类型的精确度提升以及减少错误编辑的改进——这些都是确保其在人类中安全使用的关键。
各种先进的显微镜技术：如带有荧光技术和特殊光学装置的光学显微镜、电子显微镜、原子力显微镜等。
基因组测序和合成技术，其成本在过去几十年中已大幅降低。
光遗传学技术，能够通过光照激活特定神经元。
mRNA 疫苗，理论上可以针对任何病原体设计疫苗，并且能够快速调整（mRNA 疫苗在 COVID 期间广为人知）。
CAR-T 细胞疗法，允许将免疫细胞从体内取出并重新编程，以攻击特定目标。
一些概念性见解，如病菌理论或免疫系统与癌症之间的联系。

我列出这些技术是为了提出一个关键的主张：如果有更多才华横溢且富有创造力的研究人员，类似技术的发现率可以提高 10 倍以上。换句话说，这些技术的智力回报率非常高，而生物学和医学的许多其他进展都源自这些发现。

为什么我这么认为？首先，这些发现通常由少数研究人员做出，往往是同一批人反复取得成功，这表明发现依赖于技能而非随机搜索。其次，这些技术通常“本可以”更早被发现。例如，CRISPR 是细菌免疫系统的一个组成部分，自 80 年代起就被人类发现，但我们花了 25 年才意识到它可以用于基因编辑。此外，许多发现因为缺乏科研界的支持而被延迟多年（例如 mRNA 疫苗的发明者经历过类似的挫折）。第三，许多成功的项目一开始并不被看好，而不是因为大量资源的投入才取得成功。这表明，不仅仅是资源的集中投入推动了发现，而是研究者的创新能力。

最后，尽管某些发现具有“连续依赖性”（需要先发现 A，才能具备工具或知识去发现 B），但许多（甚至大多数）发现是独立的，这意味着许多发现可以同时并行展开。这些事实，以及我作为生物学家的个人经验，强烈表明如果科学家们能够更加聪明，并且更好地将人类所掌握的庞大生物学知识联系起来，类似 CRISPR 的突破性发现还有数百个等待我们去揭示。AlphaFold 和 AlphaProteo 在解决某些人类长期未解的问题上比人类科学家表现得更为出色，尽管它们只是一个狭窄领域中的工具，但这一成果为我们指明了未来的方向。

因此，我推测，强大 AI 至少可以使这些重大发现的速度提高 10 倍，让我们在 5-10 年内完成相当于未来 50-100 年的生物学进步。为什么不是 100 倍？也许这是可能的，但在这个过程中，某些发现的连续性和实验时间成为了关键：在 1 年内实现 100 年的进展要求每件事都在第一次尝试时完全正确，包括动物实验以及显微镜或实验室设备的设计等。我也愿意考虑（尽管听起来有些荒谬）我们在 5-10 年内取得 1000 年进展的可能性，但对在 1 年内实现 100 年进展的看法则更加怀疑。换句话说，我认为某些实验和硬件设计存在一个不可避免的延迟，这些过程需要经过一定的重复才能学到那些无法通过逻辑推断得出的知识。然而，在这个基础上，我们可能会通过大规模并行化进一步加速发现过程。

那么临床试验呢？尽管它们确实伴随着大量的官僚程序和延误，但事实上，许多延迟（尽管不是全部）最终归因于需要对那些几乎无效或效果模糊的药物进行严格评估。遗憾的是，今天的大多数疗法都处于这种状况：普通的癌症药物只能延长几个月的生存时间，并伴有显著的副作用需要仔细测量（阿尔茨海默症药物也面临类似的问题）。这导致了大规模的研究（为了达到统计显著性）和复杂的权衡，而监管机构通常不擅长做出这些权衡，部分原因是官僚化和利益冲突的复杂性。

当某种疗法效果非常显著时，进展会快得多：有加速审批通道，并且当疗效较大时，审批也更加顺利。COVID 期间的 mRNA 疫苗在 9 个月内获得了批准——远快于常规速度。即便如此，即使在这样的条件下，临床试验依然过于缓慢——理论上，mRNA 疫苗应该能在 2 个月内获得批准。但这些延误（药物从研发到批准约需一年）结合大规模并行化和少量迭代（“几次尝试”）的需要，完全可能实现 5-10 年内的重大变革。更乐观的预测是，AI 支持的生物科学可能通过开发更好的动物和细胞实验模型（甚至是模拟）来减少临床试验中的迭代需求，从而更准确地预测人类的反应。这对于开发抗衰老药物尤为重要，因为衰老过程通常持续数十年，而我们需要更快的迭代周期。

最后，谈到临床试验和社会障碍问题，值得明确指出的是，生物医学创新在实际部署上拥有令人惊讶的强大成功记录，这与其他某些技术形成鲜明对比。正如前言中提到的，许多技术尽管在技术上已经成熟，但受到社会因素的阻碍，导致对 AI 可能成就的悲观看法。但生物医学的独特之处在于，尽管药物开发过程繁琐复杂，一旦药物开发成功，往往能够顺利部署并实际应用。

总结以上内容，我的基本预测是，AI 支持的生物学和医学将使我们能够在 5-10 年内压缩未来 50-100 年的生物学进展。这就是所谓的“压缩的 21 世纪”：在强大 AI 出现后，我们将在短短几年内取得整个 21 世纪的所有生物学和医学进展。

虽然预测强大 AI 在未来几年内的表现本质上仍然困难且带有推测性，但我们可以通过提出“没有 AI 辅助的情况下，人类在未来 100 年内能取得什么成就”这一问题来获得更为具体的认识。回顾 20 世纪我们取得的成就，或者从 21 世纪前 20 年的进展进行推测，或者思考“10 个 CRISPR 和 50 个 CAR-T 技术将带来什么”，这些都为我们提供了实际且有依据的方式，来估算强大 AI 可能带来的总体进步水平。

接下来，我将尝试列出我们可以预期的一些进展。这并不是基于任何严格的方法学，并且在细节上几乎肯定会有误差，但我希望通过这些预测传达出我们应该期待的总体进步水平。

几乎所有自然传染病的有效预防和治疗¹⁷。在 20 世纪传染病防治领域取得的巨大进展让人们有理由相信，我们有可能在 21 世纪压缩时间内“完成这项工作”。mRNA 疫苗和类似技术已经指引了实现“万能疫苗”的方向。能否完全消除传染病（不仅是在某些地方）还取决于贫困和不平等问题，详见第 3 节。
大部分癌症的消除。近几十年来，癌症死亡率每年下降约 2%，按目前趋势，21 世纪有望消除大部分癌症。部分类型的癌症，如某些白血病，已经通过CAR-T 疗法得到了有效控制。我对那些能够在癌症早期进行靶向治疗并防止其发展的选择性药物更加感兴趣。AI 还将使得个性化基因组的精细治疗方案成为可能，这种技术目前非常耗时且人力成本高，而 AI 可以帮助解决这些问题。癌症的死亡率和发病率预计将减少 95% 以上。不过，癌症类型繁多且适应能力强，完全消灭它仍将是极具挑战性的任务，不排除一些罕见且难治的癌症可能仍会存在。
遗传病的有效预防和治疗。通过改进胚胎筛查技术，大多数遗传疾病有望得到预防，而更安全、可靠的 CRISPR 后代技术可能将治愈现有的人群中的大多数遗传疾病。不过，涉及全身细胞的疾病可能是最后被攻克的难题。
阿尔茨海默病的预防。我们至今未完全弄清楚阿尔茨海默病的成因（尽管它与 β-淀粉样蛋白有关，但背后的机制仍然非常复杂非常复杂）。这种问题似乎非常适合通过更好的生物测量工具来解决，因此我对 AI 解决阿尔茨海默病持乐观态度。一旦我们真正理解了其机制，通过相对简单的干预手段来预防这种疾病将大有可能。然而，已经存在的阿尔茨海默病可能造成了难以逆转的损害。
其他疾病的治疗改进。这个类别涵盖了糖尿病、肥胖症、心脏病、自身免疫性疾病等其他常见疾病。相较于癌症和阿尔茨海默病，这些疾病似乎“更容易”解决，很多疾病的发病率已经在迅速下降。例如，心脏病死亡率已下降超过 50%，而像GLP-1 激动剂这样的干预措施也已在对抗肥胖症和糖尿病方面取得了显著进展。
生物自由。过去 70 年中，生育控制、体重管理和外貌管理等领域取得了显著进展。然而，AI 加速的生物学有望大大拓展这些可能性：体重、外貌、繁殖等生物过程将完全由个人掌控。这种“生物自由”的概念意味着每个人都可以选择自己想要的生活方式，并按照自己期望的方式生活。当然，这也将引发全球获取机会平等的讨论，详见第 3 节。
人类寿命的翻倍¹⁸。虽然听起来激进，但考虑到 20 世纪人类的预期寿命已经从约 40 岁增加至约 75 岁，21 世纪的寿命翻倍至 150 岁并非不合理。延缓衰老的干预措施与过去主要针对早期疾病的预防措施不同，但这种规模的变革并非史无前例¹⁹。目前已经有延长大鼠寿命 25-50%的药物，而且副作用很小。某些动物（如某些种类的乌龟）已经能够活到 200 年，因此显然人类还未达到寿命的上限。关键或许在于可靠且不受Goodhart 定律影响的衰老生物标志物，因为这将加速实验和临床试验的进展。若人类寿命达到 150 岁，我们可能会进入“逃逸速度”，让现今大部分人活到他们想要的岁数，尽管这在生物学上尚无保证。

回顾这份清单，思考如果在未来 7 到 12 年内（按照激进的 AI 时间表）实现这些目标，世界将会变得多么不同。毫无疑问，这将是一个令人难以置信的重大胜利，几乎一举消除困扰人类几千年的大多数疾病。很多朋友和同事正在抚养孩子，我希望等到这些孩子长大后，听到疾病的提及时会觉得像我们现在听到坏血病、天花或黑死病一样遥远。那一代人还将享受更多的生物自由和自我表达，并且如果足够幸运，他们或许也能活到他们想要的岁数。

很难想象这些变化将会带来的震撼，除了那一小部分预期强大 AI 的人。比如，美国目前有成千上万的经济学家和政策专家在讨论如何维持社会保障和医疗保险的支付能力，以及如何控制医疗费用（其中大部分费用都是 70 岁以上，尤其是患有癌症等绝症的老年人所消耗的）。如果这一切实现²⁰，这些问题的严重性可能会大幅下降，因为劳动年龄人口与退休人口的比例将发生巨变。虽然这些挑战可能会被新问题取代，比如如何确保新技术的广泛获取，但即便仅仅是生物学领域因 AI 加速取得的成功，也值得我们反思世界将会发生怎样的变化。

2. 神经科学与思维

在前一节中，我主要集中讨论了 物理性 疾病和整体生物学，没有涉及神经科学或心理健康。但实际上，神经科学是生物学的一个分支，心理健康与身体健康同样重要。事实上，心理健康对人类福祉的直接影响甚至可能比身体健康更大。全球有数亿人因为成瘾、抑郁、精神分裂症、低功能自闭症、创伤后应激障碍 (PTSD)、精神病²¹或智力障碍等问题而生活质量极低。更有数十亿人面临的日常问题，可以看作这些严重临床疾病的轻度表现。而且，正如在生物学中一样，除了治疗疾病，提升人类基础体验的质量也是可能的。

我为生物学提出的基本框架同样适用于神经科学。该领域的进展通常依赖于少数几项重大发现，尤其是与测量工具或精确干预技术相关的发现——前面提到的光遗传学 (Optogenetics) 就是神经科学领域的重要突破，最近的 CLARITY 和扩展显微镜 (Expansion Microscopy) 也是类似的技术进步。此外，许多细胞生物学的方法也被直接应用到神经科学领域。我认为，AI 将加速这一进展，因此“5-10 年实现 100 年的进步”的框架同样适用于神经科学，原因与生物学类似。20 世纪神经科学的进展是巨大的——例如，直到 1950 年代我们还不了解神经元是如何以及为何发放信号的。因此，预计在 AI 的推动下，神经科学将在短短几年内实现快速进步，这完全合理。

此外，过去几年我们从 AI 中学到的一些知识可能有助于推进神经科学的发展，即使研究仍主要依赖人类。例如，可解释性研究就是一个显而易见的例子。尽管生物神经元与人工神经元在表面上运作方式完全不同（生物神经元通过脉冲和脉冲频率传递信号，因此涉及时间因素，而人工神经元则不具备这种机制，此外细胞生理学和神经递质的诸多细节也对生物神经元的运作产生了巨大影响），但“分布式、经过训练的简单单元网络如何协同执行复杂计算”的基本问题是相同的。我强烈怀疑，在讨论计算和神经回路的关键问题时，神经元之间通信的具体细节很可能会被抽象化。举一个例子，AI 系统的可解释性研究人员发现的一种计算机制，最近在老鼠的大脑中被重新发现。

与真实神经网络相比，在人工神经网络上进行实验要容易得多（因为研究真实的神经网络通常需要切开动物的大脑），因此可解释性研究可能成为改善我们对神经科学理解的有力工具。未来，强大的 AI 自身可能比人类更好地开发和应用这一工具。

除了可解释性之外，AI 还教会了我们关于智能系统如何训练的新知识，这应该（尽管我不确定它是否已经）能够引发神经科学的革命。过去，当我从事神经科学研究时，许多人都在关注现在我认为是学习中的错误问题，因为当时还没有出现扩展假说 (Scaling Hypothesis) 或痛苦教训 (Bitter Lesson)。简单的目标函数加上大量数据能够驱动极其复杂的行为，这使得理解目标函数和架构偏差变得更加重要，而对涌现计算细节的理解则显得次要。我这些年没有密切关注该领域的进展，但我的直觉是，计算神经科学家还没有完全吸收这个教训。我一直认为，扩展假说“高层次地解释了智能的工作原理以及它是如何轻松演化的”，但这并不是大多数神经科学家的普遍看法，部分原因是即使在 AI 领域，扩展假说作为“智能的秘密”也尚未完全被接受。

我认为，神经科学家们应该将这种基本洞见与人类大脑的特殊性结合起来（例如生物物理限制、进化历史、拓扑结构、运动与感官输入/输出的细节），以解决神经科学中的一些关键难题。有一些研究者可能已经在这样做了，但我怀疑还不够多，而且 AI 神经科学家可能会更有效地从这个角度推动进展。

我预计 AI 将通过四条不同的路径加速神经科学的进展，并希望这些路径能够协同工作，以治愈精神疾病并提升脑功能：

传统的分子生物学、化学和遗传学。这与前一节讨论的一般生物学进展相似，AI 可能通过相同的机制加速这些领域的进展。已经有许多药物能够通过调节神经递质来改变大脑功能、影响警觉性或感知、改变情绪等，而 AI 可以帮助我们发明更多此类药物。此外，AI 还可能加速精神疾病遗传基础的研究。
精细的神经测量和干预。这是指测量大量单个神经元或神经回路的活动，并对其行为进行干预。光遗传学 (Optogenetics) 和神经探针是能够在活体生物中进行测量和干预的技术，此外还有一些非常先进的方法（如用于读取大量单个神经元发放模式的分子记录条带）也被提出，并在理论上可行。
高级计算神经科学。如前所述，现代 AI 的具体洞见和整体认知可能对系统神经科学中的问题大有帮助，或许还能够揭示精神病或情绪障碍等复杂疾病的真实成因及其动态。
行为干预。尽管本文主要关注神经科学的生物学方面，但精神病学和心理学在 20 世纪确实发展了一系列行为干预手段。有理由相信 AI 也可以加速这些方法的创新，同时帮助患者更好地坚持现有的治疗方案。更广泛地讲，“AI 教练”的理念非常有前景，AI 可以随时帮助人们成为最好的自己，研究他们的互动方式，并帮助他们更高效地学习与生活。

我猜想，这四条进展路径协同工作，将与解决身体疾病一样，在没有 AI 参与的情况下也有望在 100 年内治愈或预防大多数精神疾病——因此，在 AI 加速的 5-10 年内完成这一目标也是合理的。具体地讲，我的猜测如下：

大多数精神疾病可能会被治愈。我并不是精神疾病方面的专家（我在神经科学领域主要从事研究小群体神经元的探针开发），但我猜想 PTSD、抑郁症、精神分裂症、成瘾等疾病可以通过上述四个方向的结合进行深入研究，并得到非常有效的治疗。答案可能是“某些生化机制出了问题”（尽管可能非常复杂）与“神经网络的高级功能出现了问题”的结合。也就是说，这其实是一个系统神经科学问题——尽管这并不否定前面讨论的行为干预的效果。尤其是针对活体人类的测量与干预工具，可能会带来快速迭代与进步。
一些结构性疾病可能更加难治，但并非不可能。有证据表明，精神病态可能与大脑解剖学上的显著差异相关——在精神病患者中，一些脑区可能较小或发育不良。精神病患者还被认为从小就缺乏同理心；无论他们的大脑与常人有何不同，这种情况可能是与生俱来的。某些智力障碍和其他病症可能也是如此。重塑大脑听起来很困难，但这是一个高回报的智能任务。或许存在某种方法可以让成年大脑回到更早期的可塑性状态，使其能够被重新塑造。我对这是否可行不甚确定，但我对 AI 在此领域可能带来的发明持乐观态度。
精神疾病的基因预防可能是可行的。大多数精神疾病具有部分遗传性，基因组广泛关联研究 (GWAS) 正在揭示与疾病相关的多种因素。这可能意味着，通过胚胎筛查能够预防大多数此类疾病，类似于物理疾病的情况。与身体疾病不同的是，精神疾病更有可能是多基因性的（即由许多基因共同作用），因此这种复杂性增加了无意中排除与疾病相关的积极特质的风险。然而，最近的 GWAS 研究表明，这些相关性可能被夸大了。无论如何，AI 加速的神经科学可能帮助我们更好地理解这些问题。当然，针对复杂特质的胚胎筛查将引发许多社会问题，并可能引起争议，但我猜测大多数人会支持对严重或致残的精神疾病进行筛查。
我们认为并非临床疾病的日常问题也可能得到解决。我们大多数人都有一些日常的心理困扰，尽管这些困扰通常不会达到临床疾病的标准。有些人容易发怒，另一些人难以集中注意力或经常感到疲倦，有些人容易焦虑或害怕变化。如今，已有一些药物能够帮助解决如警觉性或注意力集中等问题（如咖啡因、莫达非尼、利他林等），但与其他领域类似，这一方面还存在巨大的潜力。许多类似药物可能尚未被发现，甚至可能存在全新的干预方式，例如定向光刺激（参见前述的光遗传学）或磁场。鉴于我们在 20 世纪已经开发了大量调节认知功能和情绪状态的药物，我对“压缩版的 21 世纪”持乐观态度，在这个时代，每个人都能够通过优化大脑功能来提升日常生活的充实感。
人类的基础体验可以大大改善。更进一步讲，许多人曾经历过启示、创作灵感、同情心、成就感、超脱感、爱、审美体验或冥想中的平静。这些体验的性质和频率因人而异，甚至同一个人在不同时间的体验也可能不同，有时这些体验还能通过某些药物触发（尽管通常伴随有副作用）。所有这些都表明，“可能体验的空间”非常广阔，更多人可以在生活中经历这些非凡时刻。我们可能还可以全面提升认知功能。这也许是神经科学版的“生物自由”或“延长寿命”。

科幻作品中经常提到的一个话题是“意识上传”，但我在这里并没有讨论这一点。所谓“意识上传”是指捕捉人类大脑的模式和动态，并将其转化为软件形式。这个话题足以单独写一篇文章，但简单来说，我认为尽管理论上几乎肯定是可行的，在实践中，它面临着巨大的技术和社会挑战，即使有强大的 AI，也可能无法在我们讨论的 5-10 年时间框架内实现。

总而言之，AI 加速的神经科学很可能大大改善或治愈大多数精神疾病，并极大地扩展“认知和心理自由”，提升人类的认知和情感能力。它带来的变革性影响将与前一节讨论的身体健康改善同样深远。也许外部世界不会有显著的改变，但人类体验的世界将变得更好、更人性化，同时为自我实现提供更多机会。我还相信，心理健康的改善将缓解许多其他社会问题，包括那些看似属于政治或经济层面的问题。

3. 经济发展与贫困

前两部分讨论了开发新技术以治疗疾病和提升人类生活质量。然而，从人道主义角度出发，一个显而易见的问题是：“这些技术是否能惠及每一个人？”

开发一种治疗方法是一回事，但要彻底消灭这种疾病则是另一回事。更广泛来看，许多现有的医疗干预措施尚未在全球广泛应用，实际上，这一点也适用于所有技术进步（不仅仅是医疗技术）。换句话说，许多地区的生活水平仍然极度贫困：撒哈拉以南非洲的人均 GDP 仅为约 2000 美元，而美国则高达约 75000 美元。如果 AI 进一步提高发达国家的经济增长和生活质量，而对发展中国家的帮助有限，那么这无疑是一次重大的道德失败，也会抹黑前两节中提到的人道主义胜利。理想情况下，强大的 AI 应帮助发展中国家逐步赶上发达国家，即便同时彻底改变后者。

我对 AI 能否解决不平等和推动经济增长的信心不如它发明基础技术的能力那么高。因为技术的智能回报显而易见（包括绕过复杂性和数据匮乏的能力），而经济则涉及许多人为限制和大量内在的复杂性。我对 AI 能够解决著名的“社会主义计算问题”持怀疑态度，我也不认为政府会（或应该）将经济政策交给 AI，即使它能够胜任。此外，还存在其他问题，例如如何说服人们接受那些有效但他们可能怀疑的治疗方案。

发展中国家面临的挑战由于广泛存在的腐败而更加复杂，无论是私营还是公共部门。腐败导致了恶性循环：它加剧了贫困，而贫困又滋生更多腐败。AI 驱动的经济发展计划必须认真考虑腐败、薄弱的制度以及其他与人性相关的复杂挑战。

尽管如此，我仍然保持乐观。疾病确实被根除过，许多国家也确实从贫困走向富裕，显然，这些决策尽管受到人类限制和复杂性的影响，但仍展现出了高回报。因此，AI 很可能能够比人类当前做得更好。此外，AI 也可以专注于一些针对性的干预措施，以绕过人类的局限。更重要的是，我们必须尝试。AI 公司和发达国家的政策制定者需要尽自己的一份力，确保发展中国家不会被排除在外；这是巨大的道德责任。因此，本节我将继续保持乐观态度，但务必要记住，成功并不一定能够保证，而是取决于我们共同的努力。

以下是我对强大的 AI 发展后 5-10 年内发展中国家可能出现的一些预测：

医疗干预的分配。我对医疗干预分配最为乐观。事实上，疾病已经通过自上而下的运动被根除：天花在 1970 年代被彻底消灭，脊髓灰质炎和几内亚蠕虫的病例每年也不到 100 例。复杂的数学模型在疾病根除运动中发挥了重要作用，而比人类更聪明的 AI 系统可能会在这方面表现得更加出色。分发的物流也很可能得到极大优化。我作为 GiveWell 的早期捐助者了解到，不同健康慈善机构的效果相差巨大；希望 AI 加速的努力能够进一步提高效率。此外，生物技术的进步实际上简化了分发物流：例如，疟疾之所以难以根除，是因为每次感染都需要治疗；而一种只需接种一次的疫苗会使物流变得更加简单（这种疟疾疫苗目前确实正在研发中）。甚至可能出现更简单的分发机制：某些疾病可以通过消灭其动物宿主来根除，例如释放被感染细菌的蚊子，这种细菌阻止它们传播疾病，或是使用基因驱动技术来彻底消灭蚊子。这类行动只需一次或几次集中的操作，而不必协调全球范围内的个人治疗运动。总体来说，我认为 5-10 年是一个合理的时间框架，使 AI 驱动的健康效益能够传播到世界最贫困的国家，实现大约 50% 的效果。一个合理的目标可能是，在强大 AI 出现后的 5-10 年里，发展中国家至少在健康水平上显著超过今天的发达国家，尽管它们仍然可能落后于发达国家。要实现这一目标，需要全球健康、慈善事业、政治倡导等方面的大规模努力，AI 开发者和政策制定者都应为此贡献力量。
经济增长。发展中国家能否不仅在健康领域，还能在整体经济上快速赶上发达国家？20 世纪末，东亚的几个经济体实现了每年约 10% 的 GDP 增长率，使它们逐步赶上发达国家。人类经济规划者通过拉动几个关键杠杆（如以出口为导向的工业政策，以及避免依赖自然资源的诱惑）实现了这一成功；同样，“AI 财政部长和中央银行家”也有可能复制或超越这种 10% 的成就。一个关键问题是如何在尊重自决权的前提下，让发展中国家政府接受这种新技术——一些政府可能会对此表示热情，但也有政府可能持怀疑态度。乐观的一面是，前面提到的健康干预措施可能自然促进经济增长：消灭艾滋病、疟疾、寄生虫病将对生产力产生巨大影响，更不用说神经科学干预（如改善情绪和专注力）对发达国家和发展中国家的潜在经济影响了。最后，AI 加速的非健康领域技术（如能源技术、运输无人机、改良建筑材料、优化物流等）也有可能自然渗透到全球；例如，手机在撒哈拉以南非洲的迅速普及就几乎没有依赖慈善组织的帮助。另一方面，尽管 AI 和自动化带来了许多潜在的好处，但它们也给尚未工业化的国家带来了挑战。在自动化日益发展的时代，找到确保这些国家依然能够发展经济的方法是经济学家和政策制定者面临的一项重要任务。理想的场景——或许也是一个目标——是发展中国家实现每年 20% 的 GDP 增长率，其中 10% 来自 AI 驱动的经济决策，另 10% 来自 AI 加速的技术自然扩散，涵盖健康以外的多个领域。如果能够实现，这将在 5-10 年内使撒哈拉以南非洲的人均 GDP 达到中国目前的水平，同时使世界上大多数发展中国家的经济水平超过目前的美国 GDP。再次强调，这只是理想情景，并非默认结果：我们需要共同努力，使其更有可能成为现实。
粮食安全²⁴。作物技术的进步，如更好的肥料和杀虫剂、更多的自动化以及更高效的土地利用，极大地提高了 20 世纪的作物产量，拯救了数百万人的生命。基因工程目前正在进一步改进许多作物。找到更多提高作物产量的方法，以及提高农业供应链效率，可能会带来 AI 驱动的第二次绿色革命，帮助缩小发展中国家与发达国家的差距。
减缓气候变化。气候变化在发展中国家的影响将更加严重，妨碍其发展。我们可以期待 AI 在减缓或防止气候变化的技术方面有所突破，从大气碳去除到清洁能源技术，再到减少高碳排放的工厂养殖依赖的实验室培育肉类。当然，正如前面讨论的那样，技术并非气候变化进展的唯一制约因素——与本文讨论的其他问题一样，人类社会因素也起着重要作用。但有理由相信，AI 增强的研究可以使应对气候变化的成本和破坏性大大降低，从而消除许多反对意见，并为发展中国家提供更多经济发展的空间。
国内不平等。尽管我主要讨论了全球不平等现象（我认为这是最重要的表现形式），但不平等也存在于国家内部。随着先进的健康干预措施（尤其是寿命的大幅延长或认知增强药物）的出现，人们担心这些技术会成为“富人的专利”。我对国内不平等问题持乐观态度，尤其是在发达国家，原因有二。首先，发达国家的市场机制较为成熟，市场通常能够随着时间的推移降低高成本技术的价格²⁵。其次，发达国家的政治制度对其公民更加回应，并且有能力实施全民普及计划——我预计公民们会要求获得这种显著提升生活质量的技术。当然，这些要求不一定会成功——我们也必须共同努力，确保社会的公平。另一个问题在于财富的不平等（不同于拯救生命和改善生活质量的技术获取不平等），这个问题似乎更加棘手，我将在第 5 节中详细讨论。
选择退出问题。在发达国家和发展中国家，人们选择拒绝 AI 带来的好处（类似于反疫苗运动或更广泛的卢德运动）是一个现实问题。可能会出现不良反馈循环，例如，那些最不擅长做决策的人选择拒绝那些能够改善他们决策能力的技术，导致差距越来越大，甚至形成反乌托邦式的下层阶级（一些研究人员认为这将破坏民主，这是我将在下一节讨论的一个话题）。这无疑会给 AI 的正面进展带来道德污点。解决这一问题非常困难，因为我认为强制接受这些技术并不道德，但我们至少可以努力提高人们的科学理解力——也许 AI 本身可以在这方面有所帮助。一些历史迹象令人乐观：尽管反技术运动时有发生，但最终大多数人还是选择接受现代技术，尤其是当它涉及个人选择时。大多数人最终会接受健康和消费技术，而那些真正受阻的技术（如核能），往往是由集体政治决策所阻碍的。

总体而言，我对迅速将 AI 的生物学进展带给发展中国家的人民感到乐观。我怀有希望（尽管信心不足）AI 也能带来前所未有的经济增长率，使发展中国家至少超越当前发达国家的水平。我对发达国家和发展中国家的“选择退出”问题感到担忧，但我怀疑随着时间的推移，这种问题会逐渐消失，并且 AI 可以帮助加速这一过程。这个世界不会是完美的，落后的人群不会完全赶上，至少在最初的几年不会。但如果我们共同努力，我们或许可以朝着正确的方向快速前进——如果我们能做到这一点，我们至少可以为每个人应享有的尊严和平等作出初步承诺。

4. 和平与治理

假设前三个部分的工作都顺利进行：疾病、贫困和不平等都显著减少，人类的生活水平得到了大幅提升。这并不意味着所有导致人类痛苦的主要原因都被解决了。人类仍然对彼此构成威胁。尽管技术进步和经济发展确实有时带来民主和和平，但这种趋势并不稳定，甚至经常出现倒退（尤其是最近的例子）。20世纪初，人们曾以为战争已经成为历史，然而随后两次世界大战爆发。三十年前，Francis Fukuyama 撰写了《历史的终结》，宣称自由民主最终胜利，但这并未成真。二十年前，美国的政策制定者认为与中国的自由贸易会随着其变富而促使其民主化；但事实并非如此，现在我们似乎正朝着与重新崛起的威权国家集团发生第二次冷战的方向发展。还有理论认为互联网技术可能实际上有利于威权主义，而非像“阿拉伯之春”时期所预期的那样有利于民主。因此，理解强大 AI 如何与这些有关和平、民主和自由的问题交汇是至关重要的。

不幸的是，我看不出有什么有力的理由可以证明 AI 会像它在健康领域或减贫方面那样，优先或结构性地推动民主和和平。人类冲突是对抗性的，AI 从原理上讲可以同时帮助“好人”和“坏人”。而且有些结构性因素更是令人担忧：AI 很可能会大大提升宣传与监控的效果，而这两者都是独裁者的主要工具。因此，作为个体，我们必须把握方向：如果我们希望 AI 倾向于促进民主和个人权利，那我们就必须为此而奋斗。相比国际不平等问题，我对此的感觉更为强烈：自由民主的胜利和政治稳定并非必然，甚至可能不太可能，它需要我们像历史上一样做出巨大牺牲和承诺。

我认为这个问题可以分为两个方面：国际冲突与国家内部结构。从国际角度来看，确保在强大 AI 诞生时民主国家在全球舞台上占据主导地位非常重要。AI 支持的威权主义可能太过可怕，以至于不堪设想。因此，民主国家必须能够主导 AI 的引入标准，以避免被威权国家压制，同时防止威权国家内部出现侵犯人权的现象。

我目前认为最佳方式是通过“协约战略”²⁶来实现，即民主国家通过确保 AI 供应链，迅速扩展，并封锁或延迟对手获得关键资源（如芯片和半导体设备）来获得明显优势（即使只是暂时的）。这个联盟一方面通过使用 AI 实现军事优势（“大棒”），同时通过将强大 AI 的好处分配给更多国家来获取支持（“胡萝卜”），类似于“和平原子”计划。联盟的目标是逐渐获得全球更多国家的支持，孤立最大的对手，最终使他们认识到，放弃与民主国家竞争才能获得最大利益，并避免与更强大的对手冲突。

如果我们能做到这一点，我们将生活在一个民主国家在全球舞台上占据主导的世界，拥有足够的经济和军事力量，避免被威权国家破坏、征服或颠覆，并将 AI 优势转化为长期的战略优势。乐观来看，这可能会带来一个“永恒的 1991 年”，一个民主国家占主导地位的世界，实现 Fukuyama 的梦想。要实现这一目标非常困难，特别是需要私营 AI 公司与民主政府的紧密合作，以及关于如何平衡“胡萝卜与大棒”的明智决策。

即使这一切都顺利进行，民主与威权主义之间的内部斗争问题仍然存在。显然，很难预测具体会发生什么，但我对假设全球环境下由民主国家掌控最强 AI，那么 AI 可能会在结构上有利于全球范围内的民主制度，感到乐观。特别是在这种环境中，民主政府可以利用他们的强大 AI 赢得信息战：他们可以对抗威权国家的影响力与宣传攻势，甚至可能通过提供信息渠道和 AI 服务，创造一个威权国家无法阻挡或监控的全球自由信息环境。或许不必发布宣传，只需要对抗恶意攻击并解除信息流通的阻碍。虽然不会立竿见影，但在这样的公平竞争环境下，全球治理可能会逐步向民主方向倾斜，原因有很多。

首先，第一至第三部分中提到的生活质量提升，应该在其他条件相同的情况下促进民主：历史上它至少在某种程度上确实如此。特别是我预计心理健康、福祉和教育的改善将促进民主，因为这三者与对威权领导的支持呈负相关。通常当人们的其他需求得到满足时，他们更愿意表达自我，而民主本质上是一种自我表达形式。相反，威权主义则依赖于恐惧和怨恨。

其次，只要威权国家无法审查，自由信息确实有可能削弱威权主义。未经审查的 AI 还可以为个人提供强大的工具，帮助他们推翻压迫性政府。压迫性政权通过剥夺人们对“皇帝的新装”这种公共认知的了解而存续。比如 Srđa Popović，他帮助推翻了塞尔维亚的 Milošević 政权，他曾详细介绍了如何通过心理战术削弱独裁者的权力，破除迷信，号召民众反抗独裁者。如果我们能开发出超级智能的 AI 版 Popović，独裁者无力封锁或审查，那么 AI 可能为世界各地的异见者和改革者提供顺风助力。再说一次，这将是一场长期且艰难的斗争，胜利并不确定，但如果我们以正确的方式设计和构建 AI，至少这场斗争中自由的倡导者将占据优势。

与神经科学和生物学类似，我们也可以问如何让情况“比正常更好”——不仅仅是避免威权主义，还要改善现有的民主制度。即使在民主国家，不公正的现象依然存在。法治社会向公民承诺法律面前人人平等，每个人都应享有基本人权，但显然这些权利在现实中并非总是得到保障。这一承诺即使部分兑现也是值得骄傲的，但 AI 能否帮助我们做得更好？

例如，AI 是否能通过使决策过程更加公正来改进我们的法律和司法系统？目前人们主要担心 AI 系统会在法律或司法背景下成为歧视的源头，这些担忧是合理的，必须认真对待。然而，民主的生命力在于利用新技术改善民主制度，而不仅仅是应对风险。如果 AI 能够真正成熟并成功实施，它有潜力减少偏见，并且对每个人更加公平。

几个世纪以来，法律体系一直面临着一个困境：法律旨在公正，但本质上是主观的，因此必须由有偏见的人来解释。试图将法律完全机械化并没有成功，因为现实世界过于复杂，无法用数学公式完全描述。因此，法律系统依赖于一些非常模糊的标准，如“残忍和不寻常的惩罚”或“完全没有社会价值”，这些标准由人类解释，往往显示出偏见、偏袒或随意性。加密货币中的“智能合约”没有变革法律，因为普通代码不够智能，无法处理很多复杂事务。但 AI 可能有能力做到这一点：它是第一个能够以重复性和机械方式做出广泛模糊判断的技术。

我并不是建议用 AI 系统替代法官，但结合公正性与理解和处理复杂现实世界的能力，感觉这应该在法律和司法领域有一些显著的应用。至少，这类系统可以作为人类决策的辅助工具。在任何此类系统中，透明性都是非常重要的，而一个成熟的 AI 科学可能提供这种透明性：这些系统的训练过程可以深入研究，先进的可解释性技术可以用来检查最终模型，评估是否存在隐藏的偏见，这在人类法官身上是不可能做到的。这样的 AI 工具也可以用于监控司法或警察领域对基本权利的侵犯，使宪法更加自我执行。

同样，AI 还可以用于汇集民众意见并推动共识，解决冲突，找到共同点，达成妥协。计算民主项目已经在这一方向进行了早期探索，包括与 Anthropic 的合作。一个更有见识和更有深度的公民群体显然会加强民主制度。

AI 还可以大大提升政府服务的提供能力，比如健康福利或社会服务——这些服务理论上是人人可享的，但在实际操作中经常严重缺失，特别是在某些地区。这包括健康服务、车辆管理、税务、社会保障、建筑规范等。一个非常智慧且信息丰富的 AI，它的工作是用一种你能够理解的方式，确保你获得法律上有权享有的所有服务，并帮助你遵守通常令人困惑的政府规定，这将是一件大事。提高国家能力不仅有助于兑现法律面前人人平等的承诺，还能增强人们对民主治理的信任。目前，服务提供的不足是导致人们对政府产生犬儒主义的主要原因之一²⁷。

所有这些想法都有些模糊。正如我在本节开头所说，我对这些设想的可行性远不如生物学、神经科学和减贫方面的进展那样自信。它们可能是过于理想化的乌托邦式构想。但关键在于有一个宏大的愿景，并敢于去尝试。AI 作为自由、个人权利和法律面前平等的保障者的愿景实在是过于强大，值得为之奋斗。21 世纪的 AI 支持的治理体系不仅可以更好地保护个人自由，还可以成为一座灯塔，帮助自由民主成为全世界向往的政府形式。

5. 工作与意义

即使前四部分的一切都顺利进行——不仅消除了疾病、贫困和不平等，自由民主成为主要的政府形式，现有的民主制度更加完善——至少还有一个关键问题仍然存在。有人可能会质疑：“生活在这样一个技术先进、同时公平和体面的世界固然很好，但如果 AI 做了所有的工作，那人类的意义在哪里？又如何在经济上生存？”

我认为这个问题比其他问题更加复杂。我并不是说我对此问题比其他问题更加悲观（尽管我确实看到了挑战），而是它更加模糊，难以提前预测，因为它涉及到社会如何组织的宏观问题，而这些问题往往只能随着时间的推移、通过去中心化的方式解决。举个例子，历史上的狩猎采集社会可能会认为没有狩猎和狩猎相关的宗教仪式，生活是毫无意义的，并且可能无法理解我们这个丰衣足食的技术社会如何满足所有人的需求，也无法理解人们在机械化社会中的角色。

尽管如此，还是值得在此提几点看法，同时请记住，这一节的简短绝不意味着我不重视这些问题——恰恰相反，这是因为缺乏明确的答案。

关于“意义”的问题，我认为，仅仅因为 AI 可以做得更好就认为你所做的事情毫无意义，这可能是一个错误。大多数人并不是世界上某件事的最佳者，但这似乎并不会让他们特别困扰。今天，人们依然可以通过比较优势为经济做出贡献，并且从他们创造的经济价值中找到意义，但人们也非常享受那些没有经济价值的活动。我经常花时间打电子游戏、游泳、户外散步和与朋友交谈，这些活动都没有产生经济价值。我可能会花一天时间尝试提高电子游戏的水平，或者骑自行车爬山的速度，然而有人比我做得更好并不会对我产生多大影响。不论如何，我认为意义主要来自人际关系和人类互动，而不是经济劳动。人们的确需要成就感，甚至是竞争感，而在 AI 时代，人们依然可以花费数年时间去挑战一些非常困难的任务，制定复杂的策略，就像今天人们在从事科研项目、尝试成为好莱坞演员或创办公司时所做的那样²⁸。事实上，(a) 某个 AI 可能理论上能做得更好，(b) 这个任务在全球经济中不再有经济回报，对我来说并没有太大影响。

相比之下，经济问题对我来说其实更难。在本节中，我所说的“经济”问题是指绝大多数或所有人可能无法对一个高度发达的 AI 驱动经济做出有意义贡献的潜在风险。这是一个比不平等（尤其是获取新技术方面的不平等）更为宏观的问题，我在第三部分已经讨论过。

首先，在短期内，我同意比较优势理论的观点：它将继续让人类保持相关性，实际上还会提高他们的生产力，甚至在某些方面拉平人与 AI 的竞争环境。只要 AI 只在 90% 的工作上表现更好，剩下的 10% 将让人类高度受益，增加报酬，并创造大量新的人类工作，与 AI 的优势互补和强化，这样“10%”可以扩大到几乎所有人都有工作。事实上，即便 AI 在 100% 的领域优于人类，但如果在某些任务上它的效率不高或成本昂贵，或者 AI 和人类在资源投入上有显著差异，那么比较优势的逻辑依然适用。有一个领域人类可能会在相当长的时间内保持相对（甚至是绝对）优势，那就是物理世界。因此，我认为即使在我们到达“数据中心中的天才国度”之后，人类经济仍然会继续存在。

不过，我确实认为，从长远来看，AI 将变得如此全方位有效且廉价，以至于现有的经济模式将不再适用。到那时，我们现在的经济体系将失去意义，社会需要广泛讨论如何重新组织经济。

虽然这听起来有些不可思议，但事实上，人类文明已经成功应对了多次重大的经济转型：从狩猎采集到农业，从农业到封建制度，再从封建制度到工业社会。我认为未来可能需要一种新的、更奇特的经济形式，而这很可能是我们今天很难想象的。或许一个全民基本收入体系会成为解决方案的一部分，尽管我怀疑它只会是整个方案中的一个小部分。也有可能是一个由 AI 系统主导的资本主义经济，这些 AI 会基于某种最终源于人类价值的判断，按照它们认为合理的标准向人类分配资源（考虑到那时经济总量将会非常巨大）。也许未来的经济体系会基于Whuffie 点数运行。或者，也许人类会以某种现有经济模型无法预料的方式继续具有经济价值。所有这些解决方案可能都存在许多问题，只有通过不断试验和迭代才能判断其可行性。就像其他挑战一样，我们可能也需要为实现一个良好的结果而努力：防止走向剥削或反乌托邦的方向至关重要。关于这些问题还有很多可以探讨，我希望未来能进一步展开讨论。

回顾总结

在上面讨论的各个话题中，我试图描绘出一个在 AI 发展顺利的情况下可能实现的世界，一个比今天的世界更美好的未来。我不确定这个愿景是否现实可行，即便它可以实现，也需要许多勇敢而坚毅的人付出巨大的努力。每个人（包括 AI 公司！）都需要做出自己的贡献，不仅要防范风险，还要尽力实现其带来的潜在好处。

但这是一个值得为之奋斗的目标。如果未来 5 到 10 年内这一切真的发生——疾病的消除，生物和认知自由的扩展，数十亿人摆脱贫困并共享新技术，自由民主与人权的复兴——我相信所有经历这一切的人都会被它的影响深深打动。我指的并不仅仅是亲身体验新技术带来的好处，虽然那一定也会让人惊叹。我指的是看到长期以来的理想在我们面前一一实现的那种感受。我想，许多人会因此激动得热泪盈眶。

在撰写这篇文章的过程中，我感受到一种有趣的矛盾。一方面，这里的愿景看似极为激进：几乎没有人认为在未来十年内会发生这种事，甚至许多人会觉得这是一种荒唐的幻想。也有些人可能不认为这是一个值得追求的目标；它体现了某些特定的价值观和政治选择，而并非所有人都会认同。但与此同时，这个愿景又显得异常清晰，好像各种设想一个更美好世界的尝试，最终都会指向这里。

在 Iain M. Banks 的《The Player of Games》²⁹中，主人公来自一个名为“文化”的社会，该社会的原则与我在此提出的愿景类似。他前往一个压迫性、军国主义的帝国，在那里通过一场复杂的战略游戏来决定领导权。这个游戏足够复杂，足以反映玩家的政治和哲学观念。主人公通过这个游戏击败了皇帝，表明他（代表文化社会的）价值观甚至在一个以残酷竞争和适者生存为基础的社会中也能取得胜利。Scott Alexander 在一篇著名博文中也表达了类似的观点：竞争最终会走向自我瓦解，社会将趋向同情与合作。“道德宇宙的弧线”也是一个类似的概念。

我认为文化社会的价值观是一种胜利策略，因为它们体现了无数小的、具有明确道德力量的决策，这些决策往往能将人们团结在同一阵营上。基本的人类公平、合作、好奇心和自主直觉很难被反驳，这些直觉能够累积，而破坏性冲动通常无法做到这一点。很容易理解，若我们能够防止孩子因疾病而死亡，那么我们就有责任去这么做；同理，我们也应确保所有孩子享有同样的权利。因此，不难推导出：我们应该团结一致，利用我们的智慧来实现这一目标。大多数人都同意不应无故伤害他人，因此推导出惩罚应当系统且一致对所有人适用，也就不难理解。同样的，人们应该拥有对自己生活和选择的自主权这一理念也是直观的。这些简单的直觉，若推向逻辑的终点，最终会导向法治、民主和启蒙价值观。即使不是必然的趋势，但至少在人类发展的总体趋势上，已经朝这个方向迈进。AI 提供了一个加速这个进程的机会——让逻辑更加清晰，目标更加明确。

尽管如此，这仍是一个令人心驰神往的美好愿景。我们有机会在实现这一愿景的过程中扮演一个小小的角色。

感谢 Kevin Esvelt, Parag Mallick, Stuart Ritchie, Matt Yglesias, Erik Brynjolfsson, Jim McClave, Allan Dafoe 以及 Anthropic 的许多成员为本文的草稿提供了宝贵意见。

向 2024 年诺贝尔化学奖得主致敬，感谢他们为我们指引方向。

脚注

¹https://allpoetry.com/All-Watched-Over-By-Machines-Of-Loving-Grace ↩
²我预计会有少数人觉得“这有点平淡”。我认为这些人需要“回归现实”，但更重要的是，从社会的角度来看，平淡未尝不是一件好事。我认为人们能接受的变化是有限的，而我所描述的发展速度已经接近社会能够承受而不至于剧烈动荡的极限。 ↩
³我觉得“通用人工智能 (AGI)”是一个不太精确的术语，带有太多科幻的色彩和炒作。我更倾向于使用“强大 AI”或“专家级科学与工程”这样的表述，既能准确传达我的意思，又没有过度的炒作。↩
⁴在本文中，我使用“智能”一词指代一种可以跨多个领域应用的通用问题解决能力，包括推理、学习、规划和创造等能力。尽管本文中将“智能”作为简化术语使用，但我承认，智能的本质在认知科学和 AI 研究中是一个复杂且争议颇多的话题。一些研究者认为，智能并不是一个统一的概念，而是由多个独立的认知能力构成。另一些人则认为，存在一个通用的智力因素 (g 因素)，它是各种认知技能的基础。这个话题可以留待日后深入探讨。↩
⁵这大致反映了当前 AI 系统的速度——比如，它们可以在几秒钟内读完一页文字，并在约 20 秒内写完一页，这比人类完成这些任务的速度快 10 到 100 倍。随着模型变得越来越大，速度可能会变慢，但更强大的芯片可以加速处理速度；目前为止，这两者的效果基本上相互抵消了。↩
⁶这听起来可能像个夸大的论点，但像Tyler Cowen 和 Matt Yglesias 这样严谨的思想者也认真提出了这个问题（尽管我不认为他们完全持这种观点），而且我不认为这种担忧是无稽之谈。↩
⁷我所知道的最接近这一问题的经济学研究是关于“通用技术”和“无形投资”的研究，这些研究^{作为通用技术的补充。}↩
⁸这种学习既可以是临时的情境学习，也可以是传统的训练；两者都受物理世界的限制。↩
⁹在一个混乱系统中，微小的误差会随着时间成倍增加，导致即使计算能力大幅提高，预测精度也只能略有提升，实际中的测量误差可能还会进一步降低这种预测精度。↩
¹⁰另一个因素当然是，强大的 AI 本身可以被用于创造更强大的 AI。我认为这很可能会发生，但其影响可能比预想的小，因为存在“智力的边际递减”这一现象。也就是说，AI 将继续快速变得更智能，但其效果最终会被非智力因素限制，而分析这些非智力因素将是决定 AI 之外科学进展速度的关键。↩
¹¹这些成就对我来说是一个灵感来源，也可能是现有最强的 AI 转变生物学的例子。↩
¹²“科学的进步依赖于新技术、新发现和新思想，可能依次递进。” ——Sydney Brenner ↩
¹³感谢 Parag Mallick 提出这一观点。↩
¹⁴我没有在本文中详细列举未来 AI 可能带来的具体科学发现，但以下是一些头脑风暴式的想法：
— 开发更先进的计算工具，如 AlphaFold 和 AlphaProteo，即通过通用 AI 系统加速我们开发专用计算生物学工具的能力。
— 更高效、更精准的 CRISPR 技术。
— 更先进的细胞治疗技术。
— 材料科学和微型化的突破，带来更好的植入设备。
— 更好地控制干细胞、细胞分化及去分化，以便再生或重塑组织。
— 更好地控制免疫系统：选择性激活免疫系统来应对癌症和传染病，选择性抑制其应对自身免疫性疾病的反应。
↩
¹⁵AI 还可能帮助更智能地选择实验：改进实验设计，从首轮实验中学到更多，从而使第二轮实验更能聚焦关键问题，等等。↩
¹⁶感谢 Matthew Yglesias 提出这一观点。↩
¹⁷快速进化的疾病，如那些在利用医院作为进化实验室不断提高其抗药性的多重耐药菌株，可能特别难以应对，并可能是阻止我们实现 100% 成就的障碍之一。↩
¹⁸需要注意的是，在 5-10 年内，我们可能难以确认是否已经将人类寿命翻倍。即便我们已经做到，但在研究时间框架内可能还无法得知。↩
¹⁹这是我愿意从统计趋势的角度看待的一个例子。尽管治愈疾病和延缓衰老过程本身有明显的生物差异，但我认为人类科学可能会找到延续这一趋势的方法；毕竟，任何复杂事物的平滑趋势都是由各种异质成分累加而成的。↩
²⁰举个例子，我听说每年生产率增长 1% 或甚至 0.5% 就足以对这些计划产生变革性影响。如果本文设想的想法成真，生产率增幅可能远高于这一水平。↩
²¹媒体热衷于描绘上层社会的精神病患者，但普通精神病患者可能是那些经济前景暗淡、冲动控制力较差、最终长期在监狱中度过的人。↩
²²我认为这有点类似于经典的混沌系统——充满不可简化的复杂性，必须通过去中心化的方式进行管理。不过，正如我在本节后面提到的，更温和的干预措施是可行的。经济学家 Erik Brynjolfsson 向我指出，大公司（如 Walmart 或 Uber）拥有足够的集中知识，可能比去中心化过程更好地理解消费者，这也许迫使我们重新思考 Hayek 关于地方知识的见解。↩
²³感谢 Kevin Esvelt 提出这一观点。↩
²⁴例如，手机最初是为富人提供的技术，但随着每年快速的技术进步，手机的价格迅速下降，最终“奢侈”手机几乎不再具备优势。今天，大多数人的手机质量都相差无几。↩
²⁵这是 RAND 即将发布的一篇论文的标题，文章大致阐述了我在此描述的策略。↩
²⁶当普通人想到公共机构时，他们往往想到的是与机动车管理局 (DMV)、国税局 (IRS)、医疗保险等部门的互动。通过改善这些互动体验，能有效遏制过度的犬儒主义。↩
²⁷在 AI 驱动的世界中，可能的挑战和项目的范围将远远超出我们今天的想象。↩
²⁸尽管我不想过多引用科幻作品，但的确难以完全避开。事实上，科幻是为数不多的未来扩展性思想实验的来源之一；不过，这种与某个狭窄亚文化的深度关联可能并不是一个好现象。↩

充满爱意的机器#

基本假设和框架#

1. 生物学与健康#

2. 神经科学与思维#

3. 经济发展与贫困#

4. 和平与治理#

5. 工作与意义#

回顾总结#

脚注#