本文是 OpenAI 创始人 Sam Altman 在 2025 年 6 月 11 日发表的博客。文章指出，人类已进入数字超级智能的“奇点”阶段，人工智能的飞速发展将深刻改变世界。目前，人工智能系统已在多方面超越人类智能，并极大地提升了人类的产出。未来，随着智能和能源变得“极其丰富”，科学进步和生产力将大幅提升，带来远超现在的优质生活。尽管面临就业结构变化等挑战，但人类的适应能力和对彼此的关怀将帮助我们应对。关键在于解决人工智能的“对齐问题”并确保超级智能的广泛、公平分布，以实现最大化的积极影响。
- 当前进展与未来展望：
- 系统如 GPT-4 和 o3 已在多方面超越人类智能，并能显著放大用户产出。
- ChatGPT 每天被数亿人用于日益重要的任务。
- 2025 年：能进行真实认知工作的“代理”出现，如编写计算机代码。
- 2026 年：有望出现能发现新颖见解的系统。
- 2027 年：可能出现能在现实世界执行任务的机器人。
- 生产力与科学进步：
- 科学家在使用 AI 后生产力提升 2 到 3 倍。
- AI 可加速 AI 研究本身，实现“递归式自我改进”。
- 经济价值创造推动了运行强大 AI 系统的基础设施建设。
- 机器人制造机器人、数据中心自动化生产等即将实现，将使智能成本趋近于电力成本。
- 一个 ChatGPT 查询平均消耗约 0.34 瓦时电量和 0.000085 加仑水。
- 社会变革：
- 2030 年代，智能和能源将“极其丰富”，消除人类进步的根本限制。
- “奇点”过程是渐进的，奇迹将变得司空见惯（如从生成段落到小说，从诊断到治愈，从小程序到新公司）。
- 部分职业将消失，但世界将迅速变得更富裕，从而能考虑前所未有的新政策。
- 人类具有适应能力，专家若能拥抱新工具仍将保持优势。
- 到 2035 年，新奇迹的实现速度将非常快，可能在短时间内实现高能物理突破到太空殖民，或材料科学突破到高带宽脑机接口。
- 挑战与解决方案：
- 安全问题： 必须在技术和社会层面解决。
- 广泛分发： 鉴于经济影响，确保超级智能的广泛可及性至关重要。
- 对齐问题： 确保 AI 系统能稳健地学习并按照人类集体的长期意愿行事（如社交媒体算法的短期偏好与长期意愿的错位）。
- 前进路径： 解决对齐问题，然后使超级智能廉价、广泛可用且不过度集中于任何个人、公司或国家。
- 社会需要尽快就“广泛边界”和“集体对齐”的定义展开对话。
- OpenAI 的角色：
- OpenAI 是一家“超级智能研究公司”，致力于为世界构建一个“大脑”，它将高度个性化且易于使用。
- “智能廉价到无需计量”的目标触手可及。
原文
我们已经越过了事件视界；腾飞已经开始。人类距离构建数字超级智能已近在咫尺，而至少到目前为止，这远没有人们想象中那么离奇。
机器人尚未遍布街头，我们大多数人也还没有整天与AI对话。人们仍会因疾病而逝，我们仍无法轻易地进入太空，宇宙中仍有许多我们不理解的奥秘。
然而，我们最近构建的系统已在许多方面比人类更聪明，并能够显著放大使用者的产出。工作中看似最不可能实现的部分已经完成；那些让我们得以开发出GPT-4和o3等系统的科学洞见来之不易，但它们将引领我们走得更远。
AI将在许多方面为世界做出贡献，但通过推动科学加速进步和提高生产力，AI为生活质量带来的提升将是巨大的；未来可以比现在美好得多。科学进步是整体进步的最大驱动力；一想到我们能拥有更多，就无比激动人心。
在某种宏观意义上，ChatGPT已经比历史上任何人类都更强大。每天有数亿人依赖它来完成日益重要的任务；一项微小的新功能可以产生巨大的积极影响；一个微小的失调在经过数亿人的放大后，也可能造成巨大的负面影响。
2025年，能够完成真正认知工作的智能体已经问世；编写计算机代码的方式将彻底改变。2026年，我们可能会看到能够发现新颖见解的系统出现。2027年，或许会出现能够在现实世界中执行任务的机器人。
将有更多人能够创作软件和艺术。但世界对这两者的需求也会大大增加，只要专家们拥抱新工具，他们可能仍会比新手出色得多。总的来说，到2030年，一个人能完成的工作量将远超2020年，这将是一个显著的变化，许多人会想办法从中受益。
在最重要的方面，2030年代可能不会有天翻地覆的变化。人们仍会爱自己的家人，表达自己的创造力，玩游戏，在湖中游泳。
但在其他同样非常重要的方面，2030年代可能会与以往任何时代都截然不同。我们不知道我们能超越人类水平的智能多远，但我们即将揭晓答案。
在2030年代，智能和能源——即思想，以及将思想变为现实的能力——将变得极其丰富。长期以来，这两者一直是限制人类进步的根本因素；有了充裕的智能和能源（以及良好的治理），理论上我们可以拥有其他任何东西。
我们已经生活在拥有令人难以置信的数字智能的环境中，在最初的震惊过后，我们大多数人已经习以为常。我们很快就从惊叹AI能生成一段文笔优美的段落，转而思考它何时能创作出一部文笔优美的小说；从惊叹它能做出挽救生命的医疗诊断，转而思考它何时能研发出治疗方法；从惊叹它能编写一个小小的计算机程序，转而思考它何时能创建一家全新的公司。这就是奇点的演进方式：奇迹先是变得司空见惯，然后成为基本要求。
我们已经从科学家那里听说，他们的生产力是使用AI之前的两到三倍。先进的AI之所以引人关注，原因有很多，但也许没有什么比我们能用它来加速AI研究更重要的了。我们或许能够发现新的计算基质、更好的算法，以及谁也说不准的其他东西。如果我们能用一年甚至一个月的时间完成过去需要十年才能完成的研究，那么进步的速度显然将大不相同。
从现在起，我们已构建的工具将帮助我们发现更多的科学洞见，并协助我们创造出更好的AI系统。当然，这与一个AI系统完全自主地更新自己的代码不是一回事，但它已是递归式自我改进的雏形版本。
还有其他自我强化的循环在起作用。经济价值的创造已经启动了基础设施建设的复合式增长飞轮，以运行这些日益强大的AI系统。而能够制造其他机器人的机器人（在某种意义上，能够建造其他数据中心的数据中心）也并非遥不可及。
如果我们必须用传统方式制造首批一百万个人形机器人，但之后它们能够运营整个供应链——从开采和提炼矿物，到驾驶卡车，再到运营工厂等——来制造更多的机器人，而这些机器人又能建造更多的芯片制造厂、数据中心等，那么进步的速度显然将大不相同。
随着数据中心生产的自动化，智能的成本最终应会趋近于电力的成本。（人们常常好奇一次ChatGPT查询消耗多少能源；平均每次查询约消耗0.34瓦时，相当于一个烤箱一秒多一点的用电量，或一个高效节能灯泡几分钟的用电量。它还消耗约0.000085加仑的水，大约是茶匙容量的十五分之一。）
技术进步的速度将持续加快，而人类适应几乎任何事物的能力也将一如既往。过程中会有非常艰难的部分，比如整类工作的消失，但另一方面，世界财富的增长速度会如此之快，以至于我们能够认真考虑我们以往无法想象的新政策。我们或许不会一蹴而就地采纳新的社会契约，但几十年后回望，这些渐进的变化将汇集成巨大的变革。
如果历史可为借鉴，我们将找到新的事情去做，发现新的需求，并迅速地吸收和运用新工具（工业革命后的职业变迁就是一个很好的近代例子）。期望值会上升，但能力也会同样迅速地提升，我们都将得到更好的东西。我们将为彼此创造出越来越美好的事物。与AI相比，人类有一个长期、重要而奇特的优势：我们的天性就是关心他人以及他们的想法和行为，而我们对机器则不那么在意。
一千年前的自给自足的农民看到我们许多人现在的工作，会说我们从事的是虚假的工作，并认为我们只是在玩游戏自娱自乐，因为我们已经有充足的食物和无法想象的奢侈品。我希望当我们看到一千年后的工作时，也会认为它们是非常虚假的工作，同时我毫不怀疑，从事这些工作的人们会感到它们极其重要和令人满足。
新奇迹的诞生速度将是惊人的。我们今天甚至难以想象到2035年会有何发现；也许我们会在一年内解决高能物理问题，然后在下一年开始太空殖民；或者在一年内取得材料科学的重大突破，然后在下一年实现真正的高带宽脑机接口。许多人会选择以大致相同的方式生活，但至少有些人可能会决定“接入”系统。
展望未来，这听起来似乎难以理解。但亲身经历时，感觉或许会是令人印象深刻但又在可控范围内。从相对论的角度来看，奇点是逐步发生的，融合是缓慢进行的。我们正在攀登技术指数级进步的漫长弧线；向前看时，它似乎是垂直陡峭的；向后看时，它又显得平坦无奇，但它其实是一条平滑的曲线。（回想一下2020年，如果当时有人说到2025年我们将拥有接近AGI的东西，听起来会是怎样，再对比一下过去5年的真实经历。）
与巨大的好处相伴的，是我们必须面对的严峻挑战。我们确实需要在技术和社会层面解决安全问题，但鉴于其经济影响，广泛地普及超级智能的访问权限也至关重要。最好的前进道路可能如下：
解决对齐问题，这意味着我们能有力地保证AI系统学习并按照我们作为一个集体真正想要的长期目标去行动（社交媒体的信息流就是一个未对齐AI的例子；驱动这些信息流的算法非常擅长让你持续滑动并能清晰地理解你的短期偏好，但它们是通过利用你大脑中某种压倒你长期偏好的机制来做到这一点的）。
然后，专注于让超级智能变得廉价、普及，并且不过度集中于任何个人、公司或国家。社会具有韧性、创造力，并且能迅速适应。如果我们能利用人类的集体意愿和智慧，那么尽管我们会犯很多错误，有些事情会出错得非常严重，但我们将能快速学习和适应，并能够利用这项技术来获取最大的好处和最小的坏处。在社会必须决定的广泛边界内，给予用户大量的自由，似乎非常重要。世界越早开始就这些广泛的边界是什么以及我们如何定义集体对齐展开对话，就越好。
我们（指整个行业，而不仅仅是OpenAI）正在为世界构建一个大脑。它将是高度个性化的，并且人人都能轻松使用；我们的限制将只在于好的想法。很长一段时间以来，初创企业圈的技术人员一直在取笑那些“点子大王”；他们有想法，但需要寻找团队来实现。在我看来，他们现在即将迎来自己的出头之日。
如今的OpenAI身兼多重角色，但归根结底，我们是一家超级智能研究公司。我们面前还有很多工作要做，但我们面前的大部分道路已被照亮，黑暗区域正在迅速退去。我们为能够从事这项事业感到无比感激。
便宜到无需计量的智能已触手可及。这样说可能听起来很疯狂，但如果我们在2020年告诉您我们将达到今天的水平，那听起来可能比我们现在对2030年的预测还要疯狂。
愿我们能平稳、指数级且波澜不惊地迈入超级智能。