Dwarkesh Patel

本文是 Dwarkesh Patel 在自己博客发表的一篇文章。Dwarkesh Patel 是一位印度裔美籍播客主持人、作家和知识传播者。他以深度访谈著称，特别聚焦于人工智能、历史、经济和科技等领域。通过自己的播客平台，他连接学术界与公众，促使复杂思想更易理解 本文详细阐述了他对通用人工智能（AGI）发展时间表的看法。他认为，尽管当前的大语言模型（LLMs）能力令人印象深刻，但由于其存在根本性的能力缺陷，AGI 并不会在未来几年内迅速到来。然而，一旦这些关键瓶颈被突破，AI 的发展将迎来爆炸性增长。 主要观点 AGI 不会很快到来：作者的核心论点是，AGI 不会在短期内（未来 2-5 年）实现，主要原因是当前模型缺乏**持续学习（continual learning）**的能力。 持续学习是关键瓶颈：与人类可以通过反馈和实践不断改进不同，目前的 LLMs 无法在工作中积累经验和上下文。这使得它们难以真正替代人类员工执行复杂的、需要适应性的白领工作。 短期谨慎，长期乐观：基于上述瓶颈，作者对 AI 在未来几年的经济变革潜力持谨慎态度。但他预测，一旦持续学习问题在未来十年内被解决，AI 的能力将发生“不连续的”巨大飞跃，引发一场“智能爆炸”，因为届时所有 AI 副本的学习成果可以被整合。 AGI 时间线呈对数正态分布：作者认为 AGI 很可能在本十年（2030 年前）实现，因为当前由计算资源驱动的指数级增长无法持续到 2030 年之后。如果错过了这个窗口期，后续进展将大幅放缓。 关键细节 当前 LLMs 的局限性： 作者以个人使用 LLMs 协助播客后期制作的经验为例，指出即使在语言处理这类核心任务上，模型的表现也仅为 5/10。 最大的问题是无法通过高级反馈让模型改进。用户只能不断调整提示词（prompt），但这远不及人类的学习和适应过程。作者用“教萨克斯风”作比喻：无法通过不断给新生写指示来教会他，而必须让他亲自练习和调整。 因此，作者预测，如果 AI 发展从今天停滞，可能只有不到 25% 的白领工作会被取代。 对“计算机使用代理”的怀疑： 作者对“到 2026 年底将出现可靠的计算机使用代理（能自动完成报税等复杂任务）”的预测表示怀疑。 理由包括：1) 此类任务的训练反馈周期长；2) 缺乏大规模的、用于计算机使用的多模态预训练数据；3) 即使是看似简单的算法创新（如 o1 模型的推理能力）也需要数年时间才能完善。 作者的 50/50 时间线预测： 2028 年：AI 能够像一个能干的人类经理一样，端到端地处理一家小公司的报税工作。作者认为，目前 AI 在计算机使用领域的能力，相当于语言模型领域的 GPT-2 阶段。 2032 年：AI 能够像人类一样在工作中无缝、快速地学习。作者认为 7 年的时间足以在持续学习方面取得突破性进展。 承认当前模型的强大之处：...