Notion

本文翻译自 Notion 创始人 Ivan Zhao 在 X 上发表的文章：Steam, Steel, and Infinite Minds。 每个时代都由其奇迹材料所塑造。钢铁锻造了镀金时代。半导体开启了数字时代。如今，AI 作为无限思维已经到来。如果历史教会了我们什么，那就是掌握这种材料的人将定义这个时代。 [左图：少年时期的安德鲁·卡内基和他的弟弟。右图：镀金时代的匹兹堡钢铁厂。] 19 世纪 50 年代，安德鲁·卡内基作为一名电报员，奔跑在匹兹堡泥泞的街道上。当时十分之六的美国人是农民。在两代人的时间里，卡内基和他的同辈们锻造了现代世界。马匹被铁路取代，烛光被电力取代，铁被钢取代。 从那以后，工作从工厂转移到了办公室。如今，我在旧金山经营一家软件公司，为数百万知识工作者打造工具。在这个行业重镇，每个人都在谈论通用人工智能（AGI），但二十亿案头工作者中的大多数尚未感受到它的存在。知识工作很快会变成什么样子？当组织架构吸收了永不休眠的思维时，会发生什么？ [早期的电影看起来通常像舞台剧，只有一台摄像机对着舞台拍摄。] 这种未来往往难以预测，因为它总是伪装成过去的样子。早期的电话像电报一样简练。早期的电影看起来像是被拍摄下来的戏剧。（这就是马歇尔·麦克卢汉所说的“通过后视镜驶向未来”。） [今天最流行的 AI 形式看起来就像过去的谷歌搜索。引用马歇尔·麦克卢汉的话：“我们总是通过后视镜驶向未来。”] 今天，我们看到的是模仿谷歌搜索框的 AI 聊天机器人。我们正深陷于每一次新技术变革都会出现的那个令人不安的过渡阶段。 我没有关于接下来会发生什么的全部答案。但我喜欢用几个历史隐喻来思考 AI 如何在不同层面上发挥作用，从个人到组织，再到整个经济体。 最初的端倪可以在知识工作的高级祭司——程序员身上找到。 我的联合创始人 Simon 就是我们所说的“10 倍程序员”，但他现在很少写代码了。走过他的办公桌，你会看到他同时指挥着三四个 AI 编程智能体（Agent），它们不仅打字更快，而且会思考，这让他变成了“30-40 倍工程师”。他在午餐或睡前排好任务，让它们在他离开时工作。他已经成为无限思维的管理者。 [20 世纪 70 年代《科学美国人》的一项关于移动效率的研究激发了史蒂夫·乔布斯著名的“大脑的自行车”隐喻。只不过从那以后，我们一直在信息高速公路上费力地踩着踏板。] 20 世纪 80 年代，史蒂夫·乔布斯称个人电脑为“大脑的自行车”。十年后，我们铺设了互联网这条“信息高速公路”。但今天，大多数知识工作仍然是人力驱动的。这就像我们在高速公路上骑自行车一样。 有了 AI 智能体，像 Simon 这样的人已经从骑自行车毕业，转而驾驶汽车了。 其他类型的知识工作者什么时候才能开上车？必须解决两个问题。 [与编程智能体相比，为什么 AI 更难帮助知识工作？因为知识工作更加碎片化，且更难以验证。] 首先是上下文碎片化。对于编程，工具和上下文往往存在于一个地方：IDE、代码库、终端。但一般的知识工作分散在数十个工具中。想象一个 AI 智能体试图起草一份产品简介：它需要从 Slack 讨论串、战略文档、仪表盘中的上季度指标以及仅存在于某人脑海中的组织记忆中提取信息。今天，人类是胶水，通过复制粘贴和在浏览器标签页之间切换将所有这些缝合在一起。在上下文整合之前，智能体将仍然受困于狭窄的用例中。 第二个缺失的要素是可验证性。代码具有一种神奇的属性：你可以通过测试和报错来验证它。模型制造者利用这一点来训练 AI 更好地编程（例如强化学习）。但是，你如何验证一个项目是否管理得当，或者一份战略备忘录是否优秀？我们尚未找到改进一般知识工作模型的方法。因此，人类仍然需要在回路中进行监督、指导，并展示什么是好的结果。 [1865 年的《红旗法案》要求车辆在街道上行驶时，必须有一名旗手在车前行走（该法案于 1896 年废除）。这是一个不受欢迎的“人在回路中”的例子。] 今年的编程智能体教会了我们，“人在回路中（human-in-the-loop）”并不总是可取的。这就像让专人检查工厂流水线上的每一颗螺栓，或者走在汽车前面开路（参见：1865 年的《红旗法案》）。我们希望人类站在杠杆点上监督回路，而不是身处其中。一旦上下文得到整合且工作可验证，数十亿工人将从骑自行车转变为开车，进而从开车转变为自动驾驶。...