本文整理自 Alex Kantrowitz 对 Anthropic CEO Dario Amodei的 深度访谈,以下为原视频精华。
别叫我“AI末日论者”——Anthropic CEO Dario Amodei的自白与野心
“当有人叫我‘末日论者’,说我想让AI发展减速时,我真的会非常愤怒。”
Anthropic 的CEO Dario Amodei 在采访一开始就毫不掩饰自己的情绪。对他来说,这个标签不仅是一种误解,更是一种侮辱。因为很少有人比他更清楚,技术进步的迟缓意味着什么。
“你听听我刚才说的,我父亲的去世,就是因为那些晚了几年才出现的疗法。我比谁都懂这项技术能带来的好处。”
这份深植于个人经历的紧迫感,塑造了Dario Amodei——这位处在AI浪潮之巅,却又时常发出警示声音的复杂人物。他既是AI能力指数级增长最坚定的信徒,也是那个不断提醒世界“小心脚下”的吹哨人。
在这场坦诚的对话中,Dario分享了他对AI未来的判断、Anthropic的生存法则,以及他为何选择了一条与众不同的道路。
指数级增长:我们都被蒙在鼓里
Dario的核心观点可以归结为一个词:指数级增长(the exponential)。
他认为,人们在直觉上很难理解指数曲线的可怕。就像上世纪90年代的互联网,在它彻底爆发的前两年,看起来似乎才刚刚起步,只有1/16的威力。而今天的AI,正处在同样的历史节点。
“我们正坐在2025年的中间点,模型的能力正在爆炸式增长,” Dario说,“几年前它们还语无伦次,后来达到高中生水平,现在已经是聪明的大学生甚至博士生了。”
他不喜欢用“AGI”或“超级智能”这类模糊的营销术语,他觉得那些词只会刺激人们的多巴胺。他更愿意谈论可观察到的、实实在在的进步——只要投入更多的算力、数据和新的训练方法,AI模型每隔几个月就会变得比上一代更强。
这种进步也直接体现在商业上。Anthropic的收入增长曲线堪称疯狂:
- 2023年:从0增长到1亿美元
- 2024年:从1亿美元增长到10亿美元
- 2025年上半年:从10亿美元增长到超过45亿美元
“我不是说这个趋势一定会持续,但如果你假设它再持续两年呢?你会进入千亿级别。” Dario解释道,“人们正在被指数增长蒙蔽了双眼,没有意识到事情会发展得有多快。”
正是这种对未来的预判,让他感到前所未有的紧迫感。他觉得,当问题(无论是国家安全还是经济冲击)离我们越来越近时,他有责任和义务把丑话说在前面,警告世界可能出现的风险。
技术瓶颈?只是暂时的障碍
尽管行业内充满了对“规模化边际效益递减”和“模型无法持续学习”的担忧,但Dario对此不以为然。
1. 关于边际效益递减
“从我们在Anthropic内部看到的情况来说,我们没有看到任何收益递减。”
他以编码领域为例。Anthropic的Claude系列模型在编码能力上进步神速,相关的基准测试(如SweetBench)得分从18个月前的3%飙升到了现在的70%-80%。在Anthropic内部,大部分代码的编写都已经离不开Claude的参与。他认为,所谓的瓶颈,更像是某些人的一厢情愿。
2. 关于持续学习
有人批评大语言模型像个一次性产品,训练完就定型了,无法像人一样持续学习。Dario承认这是个问题,但远非致命弱点。
“就算我们永远解决不了持续学习,一个拥有诺奖级别智慧但无法学习新知识的AI,如果你有一千万个,它们照样能在生物学上取得巨大突破。”
更何况,他认为这根本不是一个无法解决的问题。首先,不断增长的“上下文窗口”本身就是一种短期学习。理论上,我们可以把上下文窗口扩展到一亿个词,相当于一个人一生的信息输入量。其次,他相信通过新的技术架构(比如他提到的“内循环”和“外循环”),持续学习的问题最终也会像之前的“推理”难题一样,被“规模化+新思路”所攻克。
“在AI领域,每当我们觉得遇到了什么根本性障碍,结果往往它都不是。”
Anthropic的生存之道:小而美,但火力十足
作为一家独立创业公司,Anthropic如何在Meta、xAI这些由万亿巨头支持的庞然大物之间生存?Dario的答案是 人才密度 和 资本效率。
“三年前,我们的融资额只有几亿美元,而OpenAI已经从微软拿了130亿。我们当时的逻辑是:如果别人花10亿能做到的事,我们花1亿就能做到,那么投资我们比投资他们资本效率高10倍。”
他认为,金钱只是一个暂时的短板,可以弥补;而用更少资源做出更好产品的内在能力,才是真正的护城河。如今,Anthropic手握近200亿美元融资,在数据中心的规模上,他自信不输给任何对手。
面对Mark Zuckerberg用高薪直接挖人的策略,Dario显得很冷静。他没有选择跟进,破坏公司内部公平的薪酬体系。他认为,这种做法破坏了企业文化,而且“你只能买走那些可以被买走的人”。
“他们在尝试购买一些买不到的东西,那就是对使命的认同感。” Dario说,Meta的挖角反而成了Anthropic的“团结时刻”,因为大部分员工都拒绝了天价offer,选择留下来。
个人经历:一切紧迫感的源头
要理解Dario Amodei,就必须回到他的个人经历。
在旧金山长大的他,对早期的互联网热潮毫无兴趣,一心想成为一名物理学家,去探索宇宙的基本真理。然而,父亲的离世彻底改变了他的人生轨迹。
“我父亲病了很久,在他去世后仅仅三四年,治愈他那种疾病的成功率就从50%飙升到了95%。”
这件事对他冲击巨大。一方面,他感受到了科技进步能拯救生命,另一方面,他也体会到了“如果能再快一点”的切肤之痛。这让他从理论物理转向了生物学,希望能亲自解决这些难题。
但在生物学领域,他再次感到了人类能力的局限。“生物系统的复杂性超越了人类的尺度,”他发现,只有AI这项技术,才有可能帮助人类跨越这个鸿沟。
于是,他最终投身AI。这条从“物理学”到“生物学”再到“人工智能”的道路,贯穿着一个核心母题——产生真正的影响力(Impact)。他想解决真正重要的问题,想阻止其他人经历他所经历的痛苦。
这种强烈的使命感也解释了他为何离开OpenAI。“当你为一个动机不真诚、不是真心想让世界变得更好的人工作时,你做的技术再好,最终也只是在为一个坏结果做贡献。”
在“末日论”与“加速主义”之间走钢丝
采访中最激烈的时刻,莫过于回应英伟达CEO黄仁勋的批评——“Dario认为只有他能安全地构建AI,因此想控制整个行业”。
“那是一个无耻的谎言,我听过的最无耻的谎言。” Dario激动地反驳。
他强调,Anthropic的目标并非垄断,而是引领一场“顶峰竞赛(Race to the Top)”。他解释说,在“探底竞赛”中,所有人为了速度牺牲安全,最终没人是赢家。而在“顶峰竞赛”里,一家公司通过设立更高的安全和责任标准(如率先发布《负责任扩展政策》、公开可解释性研究),来鼓励和带动整个行业向好的方向发展。
“我希望的是,无论谁赢,大家都能赢。”
在访谈的最后,Dario将当下的AI世界描绘成一个由两个“不严肃”的极端构成的危险局面:
- 一端是真正的“末日论者”:他们认为AI注定失控,人类毫无办法。Dario认为这在智识上和道德上都是不严肃的。
- 另一端是手握20万亿美元资本的“加速主义者”:他们眼中只有商业利益,对任何安全风险都嗤之以鼻,并将所有关于风险的讨论都污蔑为“争夺控制权”。Dario认为这同样是智识上和道德上都不严肃的。
他将自己和Anthropic定位在这两者之间——一个清醒、严肃,并试图在巨大的利益、不可避免的技术浪潮和潜在的巨大风险之间,找到一条艰难但必须走的平衡之路。
“我每天晚上睡觉前都在想这个问题,因为我比任何人都更理解其中的利害关系,” Dario说,“我们需要更多的深思熟虑,更多的诚实,而不是在Twitter上打口水仗。我正在尽我所能去做,如果能有更多人也这样做,那将是件好事。”