在 2024 年加州理工学院(Caltech)毕业典礼上,NVIDIA 的 CEO 黄仁勋受邀做了演讲,演讲中 Jesen 强调了毕业生们通过刻苦努力取得的成就,并指出未来面对的挑战和机遇。他分享了自己的职业经历,特别是 NVIDIA 在加速计算和人工智能(AI)领域的突破,强调了坚持和适应力的重要性,并鼓励毕业生们在未来的职业生涯中要有耐心、坚韧和对技术的热情。视频地址。演讲关键细节如下:

  1. 个人与 Caltech 的联系

    • NVIDIA 的首席科学家都来自 Caltech。
    • 演讲者通过在 Caltech 的招聘,推介 NVIDIA 的良好企业文化和发展前景。
  2. 技术革新与贡献

    • 描述了 NVIDIA 从图形公司转型为 AI 公司,并通过加速计算和深度学习技术的进步推动整个计算行业的变革。
    • 强调 CUDA 和 GPU 的开发以及这些技术在深度学习中的应用,对AI革命的重要性。
  3. 职业经历与挑战

    • 分享了多次因市场变化和竞争对手的策略调整而被迫转型的经历,从集成图形芯片到移动设备,再到最终进入机器人领域。
    • 强调在面对挫折时迅速调整策略和视角的重要性,并从中培养出公司文化的韧性。
  4. 未来技术与行业

    • 讨论了 AI 技术的飞速发展和未来机器人技术的潜力。
    • 提到新兴的 AI 工厂,这些工厂将生产“智能代币”,并将其视为下一次工业革命的重要组成部分。
  5. 人生哲理与建议

    • 通过在日本银阁寺的经历,强调专注于自己的事业和持续改进的重要性。
    • 建议毕业生每天从最重要的工作开始,优先处理生活中的重要事项,从而有效地利用时间。
    • 鼓励毕业生相信并致力于某些未被广泛接受的理念或技术,接受挫折作为新的机遇,并从中成长。
  6. 总结与祝福

    • 确信 Caltech 毕业生在面对未来挑战时已经做好了充分的准备。
    • 鼓励他们在未来的事业中找到自己的“工艺”,将其作为终生事业不断完善,并在过程中发展出坚韧和适应能力。

原文

女士们,先生们,Rosenbaum 校长,尊敬的教职员工,亲爱的来宾,骄傲的家长,最重要的是,加州理工学院 2024 届的毕业生们。今天对你们来说是一个非常高兴的日子。你们应该表现得更兴奋一些。你们知道你们即将从加州理工学院毕业。这里是伟大的 Richard Feynman, Linus Pauling, 以及对我和我们的行业有深远影响的 Carver Mead 的母校。是的,这是一件大事。

今天是一个充满自豪和喜悦的日子。对你们所有人来说,这是一个梦想成真的日子,不仅仅是你们,因为你们的父母和家庭为了看到你们达到这个里程碑做出了无数的牺牲。所以让我们借此机会祝贺他们,感谢他们,并告诉他们你爱他们。不要忘记这一点,因为你不知道你会在家住多久。今天你应该特别感激。作为一个骄傲的家长,我真的很喜欢我的孩子们没有搬出去,每天看到他们很棒,但现在他们搬走了,这让我很难过。所以希望你们能和父母多些相处。你们的旅程是你们性格、决心、愿意为梦想做出牺牲的见证,你们应该感到自豪。做出牺牲、忍受痛苦和磨难的能力,这些都是你们未来生活中需要的品质。

你们和我有一些共同点。首先,NVIDIA 的两位首席科学家都来自加州理工学院。我今天演讲的原因之一是因为我在招募人才。所以我想告诉你们,NVIDIA 是一家非常棒的公司,我是一个非常好的老板,受到普遍喜爱,来 NVIDIA 工作吧。

你们和我都对科学和工程充满热情,虽然我们相隔大约 40 年,但我们都处在职业生涯的巅峰。对于那些一直关注 NVIDIA 和我的人,你们知道我的意思。只是你们还有许多巅峰要经历。我只是希望今天不是我的巅峰,所以我正在尽可能努力地确保我还有许多巅峰在前方。

去年,我很荣幸在台湾大学发表毕业演讲,我分享了一些关于 NVIDIA 的旅程以及我们学到的一些可能对毕业生有价值的教训。我必须承认,我不喜欢给别人建议,特别是别人的孩子。所以我今天的建议主要会隐藏在一些我喜欢的故事和一些我享受的人生经验中。我认为我是世界上任职时间最长的科技 CEO。在 31 年的时间里,我成功地避免了破产、避免了无聊、避免了被解雇。所以我有幸享受了很多人生经历,从创建 NVIDIA 开始,从无到有。于是我谈到了创建 CUDA 的漫长道路,我们花费了超过 20 年时间发明的编程模型,它正在革新计算。我谈到了一个非常公开的,被取消的 Sega 游戏机项目,以及在这个项目中,诚实这种品质是如何拯救了我们的公司,诚实是 Richard Feynman 非常看重的一个品质,并且他经常谈论它。以及如何战略性撤退是我们最好的策略之一。所有这些都是我在毕业演讲中谈到的反直觉的教训。

但我鼓励毕业生们与人工智能(AI)互动,这是我们这个时代最重要的技术。我稍后会多谈一些关于 AI 的内容,但你们都知道 AI。很难不被它浸泡在其中并被它包围,有很多关于它的讨论。当然,我希望你们都在使用它并玩它,产生一些令人惊讶的结果,有些是神奇的,有些是令人失望的,有些是令人惊讶的。但你们必须享受它,必须参与其中,因为它正在迅速进步。这是我所知道的唯一一种同时在多个维度上呈指数级进步的技术。所以技术正在非常迅速地改变。

所以我建议台湾大学的学生跑起来,不要走路,参与 AI 革命。然而,一年后,变化如此之快,令人难以置信。所以今天,我想与大家分享我的观点,从我的视角,一些你们即将毕业进入的行业中正在发生的重要事情。这些都是正在发生的非凡的事情,你们应该有一个直观的理解,因为它对你们来说很重要,对行业来说很重要。希望你们能够抓住面前的机会。

计算机行业正在从基础上进行转型,几乎从框架开始。所有的东西都在从框架向上变化。跨越每一层,并且很快,每个行业也将被改变。原因很明显,因为今天的计算机是最重要的知识工具。它是每个行业和每个科学领域的基础。如果我们如此深刻地改变计算机,它当然会对每个行业产生影响。我稍后会谈到这一点。当你们进入行业时,了解正在发生的事情是很重要的。

现代计算机可以追溯到 IBM System 360。这是我学习的架构手册。你们不需要学习这个架构手册。自那以后,已经有了很多更好的文档和对计算机和架构的更好描述。但 System 360 在其时代是非常重要的,事实上,System 360 的基本思想、架构和策略,至今仍在主导计算机行业。它是在我出生后的第二年引入的。

在 80 年代,我是第一代 VLSI 工程师之一,从 Mead 和 Conway 的开创性教科书中学习设计芯片。我不确定它是否仍在这里教授。它应该是 VLSI 系统导论的一部分。基于 Carver Mead 在加州理工学院关于芯片设计方法学和教科书的开创性工作,这本教科书革新了集成电路设计。它使我们这一代能够设计超级巨型芯片,最终是 CPU。CPU 导致了计算的指数级增长。性能,令人难以置信的技术进步,被称为摩尔定律,推动了信息技术革命。我们这一代人所经历的工业革命,看到了前所未见的东西的大规模生产。前所未见、易于复制的东西的大规模生产,软件的大规模生产。它c产生了一个 3 万亿美元的行业。

当我坐在你们的位置时,IT 行业微不足道。卖软件赚钱的概念是幻想。然而今天,它是最重要的商品之一,最重要的技术和我们行业生产的产品创造之一。然而,NARD 缩放、晶体管缩放和指令级并行性的极限已经减慢了 CPU 性能的提高。CPU 性能增长的放缓恰逢计算需求继续呈指数级增长之时。这种计算需求和计算能力之间的指数级增长差距,如果不加以解决,计算的能耗和成本膨胀最终会阻碍每个行业的发展。我们看到计算通货膨胀的明显迹象。

在推动 NVIDIA 的 CUDA 发展了二十多年后,借助 NVIDIA 的加速计算,我们找到了一条前进的道路。这就是我在这里的原因。因为最终,行业意识到加速计算的巨大效果,恰逢我们在经历数十年的计算通货膨胀之时。通过将耗时的算法卸载到专门进行并行处理的 GPU,我们经常实现 10 倍、100 倍、甚至 1000 倍的速度提升,节省了成本、费用和能源。我们现在加速的应用领域从计算机图形学、光线追踪,到基因测序、科学计算、天文学、量子电路模拟、SQL 数据处理,甚至是 pandas 数据科学。

加速计算已经达到一个临界点。这是我们对计算机行业的第一项重大贡献,也是我们对社会的第一项重大贡献,加速计算。它现在为可持续计算提供了一条前进的道路,在计算需求不断增长的同时,成本将继续下降。任何在时间、成本或节能方面达到百倍的加速计算,必然会引发其他地方的新发展。直到深度学习进入我们的视野,我们才知道那是什么。一个全新的计算世界出现了。Jeff Hinton、Alex Krzyzewski 和 Ilya Sutskever 使用 NVIDIA CUDA GPU 训练 AlexNet,并通过赢得 2012 年的 ImageNet 挑战赛震惊了计算机视觉界。这是深度学习的重大时刻,标志着 AI 革命的开始。

AlexNet 之后的决策改变了我们的公司,这值得注意。AlexNet 之后的决策改变了我们的公司,可能也改变了一切。我们看到了深度学习的潜力,并通过原则性思维,相信我们自己的深度学习可扩展性的分析。我们认为这种方法可以学习其他有价值的功能。也许深度学习是一种通用的功能学习器,有多少问题是难以或不可能通过基本原理来表达的。当我们看到这一点时,我们认为这是一项我们必须关注的技术,因为它的极限可能仅受模型和数据规模的限制。然而,当时存在挑战。这是 2012 年之后不久。我们如何在不构建这些巨大的 GPU 集群的情况下探索深度学习的极限?当时我们是一家相对较小的公司,构建这些巨大的 GPU 集群可能花费数亿甚至数亿美元。如果我们不这样做,就无法保证扩展后会有效。然而,没有人知道深度学习能扩展到多远。如果我们不构建它,我们永远不会知道。这是那种“如果你建造它,他们会来吗?”的问题。我们的逻辑是,如果我们不建造它,他们就不会来。因此,我们基于我们最初的原则性信念和分析,致力于此。我们把自己推向了相信这将非常有效的地步,当公司相信某事时,我们就应该去行动。所以我们深入研究深度学习,在接下来的十年中系统地重新发明了一切。

我们重新发明了每一层计算,从 GPU 本身开始。现代 GPU 的发明与我们最初发明的 GPU 非常不同,我们继续发明几乎所有其他计算方面的东西,包括互连、系统、网络,当然还有软件。我们投资了数十亿。我们在未知领域投资了数十亿。数千名工程师在十年间致力于深度学习的推进和扩展,而实际上并不知道我们可以把这项技术带到多远。我们投资了数十亿。我们设计并建造了超级计算机,以探索深度学习和 AI 的极限。2016 年,我们宣布推出 DGX-1,我们的第一个 AI 超级计算机,我将第一个交付给了旧金山的一家初创公司,这是一家没有人知道的公司,一群我的朋友们在做人工智能的公司,叫做 OpenAI。

2022 年,距离 AlexNet 发布已有 10 年,计算能力增长了大约一百万倍。一百万倍。如果你能想象一下,如果你的笔记本电脑的能力增长了一百万倍,会是什么样子?一百万倍之后,OpenAI 推出了 ChatGPT,AI 成为了主流。在这十年间,NVIDIA 从一家许多人最初知道的图形公司,制造 GPU 的公司,转变为一家制造大规模数据中心级超级计算机的 AI 公司。我们完全改变了我们的公司。我们也完全改变了计算。今天的基本计算方式已经发生了根本性的变化。计算栈现在使用 GPU 来处理在超级计算机上训练的大型语言模型,而不是处理程序员编写的指令的 CPU。我们现在在创造人类无法编写的软件。我们现在在创造十年前人类无法想象的软件。计算机现在是基于意图驱动的,而不是基于指令驱动的。告诉计算机你想要什么,它会找出如何实现。

就像人类一样,AI 应用程序将理解任务、推理、计划,并协调一组大型语言模型来执行任务。未来的应用程序将以非常类似于我们做事的方式进行操作,组建专家团队,使用工具,进行推理和计划,并执行任务。软件和软件能做的事情已经完全改变了。即使我们的行业在变化和转型过程中,也创造了另一个行业,一个世界从未见过的行业。一个行业正在我们眼前形成。AI 的输入和输出是 Tokens。对于在场的所有工程师,你们知道我的意思。这些是嵌入智能的浮点数。公司现在正在建设一种以前不存在的新型数据中心,专门生产智能 Tokens。本质上是 AI 工厂。

就像尼古拉·特斯拉发明的交流发电机一样,属于过去的工业革命,我们现在有了 AI Token 生成器,它们将是新工业革命的工厂。有大型行业生产能源,电力。我们现在有一个生产叫做软件的无形东西的大型行业。在不久的将来,我们将有一个生产、制造智能 Tokens,AI 生成器的行业。一种新的计算模型已经出现,一个新的行业已经出现,所有这些都是因为我们从基本原理出发,形成了对未来的信念,并采取了行动。

下一波 AI 是机器人,除了语言模型,AI 还将拥有一个物理世界模型。我们与数百家公司合作,制造机器人、机器人车辆、拾取和放置手臂、人形机器人,甚至整个巨大的仓库都是机器人。但与我们的 AI 工厂战略和我们的经验不同,这是通过推理和有计划的行动形成的,我们的机器人之旅是由一系列挫折导致的。正如你所知,NVIDIA 发明了 GPU。这是在我们发明 AI 工厂之前。我们对计算机行业的第一个重大贡献是通过可编程着色器重新发明计算机图形。我们在 2000 年发明了 GPU 和可编程着色。我们想把 GPU 集成到每台计算机中,所以我们开始将 GPU 与主板芯片结合,并推出了一款当时为 AMD CPU 制造的出色集成图形芯片。我们的芯片组业务立刻成功了。我认为它几乎在一夜之间从零到十亿美元。但随后突然之间,AMD 想要控制 PC 中的所有技术,而我们想保持独立,所以他们收购了 ATI,不再需要我们。我们转向 Intel。那可能不是一个好主意,但我们转向了 Intel,并谈判获得了连接 Intel CPU 的许可证。Apple 对我们正在构建的东西感到兴奋,并邀请我们与他们合作开发一台新计算机,后来成为了第一台 MacBook Air。Intel 看到发生了什么,并决定他们不想让我们再这样做了,所以他们终止了我们的协议。我们再次转向,这次我们去获得了 ARM 的许可,并构建了一个低功耗 SoC,一个移动 SoC,世界上第一个本质上是计算机的 SoC,一个完整的操作计算机,它非常棒。我们的芯片让 Google 感到兴奋,并邀请我们合作开发一种新设备,后来成了 Android 移动设备。Qualcomm 决定他们不想让我们这样做,所以他们不想让我们连接到他们的调制解调器上,而没有连接到调制解调器就很难构建移动设备。而且没有其他 LTE 调制解调器公司,所以我们不得不退出移动设备市场。

这几乎是按年节奏发生的,我们会构建一些东西,它会非常成功,产生巨大的兴奋,然后一年后,我们被踢出那些市场。没有更多的市场可以转向,我们决定构建一些我们确定没有客户的东西,因为有一件事你可以肯定的是,没有客户的地方,也没有竞争对手,没人关心你。所以我们选择了一个没有客户的市场,一个价值 0 亿美元的市场,那就是机器人。我们构建了世界上第一个机器人计算机,处理一种当时没有人理解的算法,叫做深度学习。这已经是十多年前的事了。十年后,我对我们所构建的东西以及创造下一波 AI 的机会感到非常高兴。

更重要的是,我们培养了敏捷性和韧性的文化。一波又一波的挫折,我们摆脱了它们,转向下一个机会。每次,我们都获得了技能并加强了我们的性格。我们加强了我们的企业性格。我们的公司真的很难被分散注意力,很难被气馁,现在看来,没有哪次挫折不会看起来像一个机会。讽刺的是,我们今天构建的机器人计算机甚至不需要图形处理,这就是我们最初开始的原因。

所以我们今天的位置告诉我们一些事情并教给我们一些东西。正如 Richard Feynman 所说,世界是不确定的,世界可以是不公平的,会给你带来艰难的局面。迅速摆脱困境。你显然一直在过度关注你的书籍。迅速摆脱困境。拜托,这很聪明。我自己都笑了。外面有另一个机会,或者创造一个。

让我再讲一个故事。我过去每年夏天都会在我们的一处国际站点工作一个月。当我们的孩子们处于青少年时期时,我们在日本度过了一个夏天。周末,我们参观了京都和银阁寺。如果你还没有机会去,你必须去。它以其精美的苔藓花园而闻名。我们参观的那天是典型的京都夏天,闷热潮湿,粘稠。热气从地面辐射出来。空气很厚,很静。和其他游客一起,我们漫步在精心修剪的苔藓花园中。我注意到那里的唯一一个园丁。

记住,这是银阁寺,苔藓花园非常大。大约有这个庭院的大小。它拥有世界上几乎每一种苔藓的最大的集合,并且被精心维护。我注意到那位唯一的园丁蹲着,用竹镊子小心翼翼地挑苔藓,放在竹篮里。你要知道,这是竹镊子,只有一个园丁。篮子看起来是空的。嗯,有一瞬间,我以为他在挑想象中的苔藓,放进一堆想象中的死苔藓里。所以我走到他面前,问他,你在做什么?他用英语回答说,我在挑死苔藓。我在照顾我的花园。我说,但你的花园这么大。他回答,我已经照顾我的花园 25 年了。我有的是时间。这是我生命中最深刻的学习之一。它真的教会了我一些东西。这位园丁全身心投入到他的手艺中,做他一生的工作。当你这样做时,你有的是时间。我每天早上开始时,我每天早上都是这样开始,我每天早上首先做我的最高优先级工作。我有一个非常明确的优先级列表,我从最高优先级工作开始。在我到达工作岗位之前,我的一天已经是成功的。我已经完成了我最重要的工作,可以把一天的时间用来帮助别人。当人们为打扰我道歉时,我总是说我有的是时间,确实如此。

2024 届的毕业生们,我几乎无法想象有谁比你们更为未来做好了准备。你们全身心投入,努力工作,从世界上最负盛名的学校之一获得了世界一流的教育。当你们进入下一个阶段时,请记住我的经验,希望它们能在你们前行的路上有所帮助。我希望你们相信某些东西,某些非传统的,某些未被探索的东西,但要让它有理有据。然后全身心投入让它实现。你可能会找到你的 GPU,你可能会找到你的 CUDA,你可能会找到你的生成式 AI,你可能会找到你的 NVIDIA。我希望你们能将挫折视为新的机会。你的痛苦和磨难会加强你的性格、韧性和灵活性,这些是终极的超级力量。

在我最看重的能力中,智慧并不是排名第一。我能忍受痛苦和磨难的能力,我能长期致力于某件事的能力,我能应对挫折并看到转角处机会的能力,我认为是我的超级力量,我希望它们也是你的超级力量。我希望你找到一门手艺。重要的不是在第一天就决定,甚至也不需要很快决定,但我希望你找到一门手艺,你愿意终身致力于完美它,磨练它的技能,让它成为你一生的工作。

最后,优先安排你的生活。有这么多事情要做,但优先安排你的生活,你会有充足的时间去做重要的事情。祝贺你们,2024 届毕业生,加油干。