我的 OpenAI 之路

高中毕业后的间隔年，我开始认真学习编程。我读了图灵的《计算机器与智能》(Computing Machinery and Intelligence)，并受到了一种想法的启发，那就是编写能够理解一些连我自己 (代码作者) 都无法理解的东西的代码。我开始写一个聊天机器人——这能有多难呢？

我设法构建了一个可以非常逼真地谈论天气的聊天机器人。但无论我如何寻找，似乎都没有任何技术可以让我的机器人真正地**工作**。

我很快搁置了对聊天机器人的追求。我决定专注于创建能够产生实际影响的系统，并且从那以后一直如此。

大学 #

在大学里，我发现了一个领域，它抓住了我被 AI 吸引的地方：编程语言。编译器或静态分析器能够以我无法理解的方式“理解”程序，然后应用这种理解来做一些非常有用的事情 (例如生成快速代码或证明正确性) ，这让我感到兴奋。

我一直试图为编程语言研究腾出时间。但我也不断被新的创业想法 (通常都很糟糕) 和与之合作的新人 (通常都很好) 所分散注意力。我最初在哈佛大学读书，后来转学到麻省理工学院，试图不断地让自己身边都是我可以学习并与之共同构建有用的东西的人。

大三的时候，我决定在学校里创业是没有意义的。相反，我要去和创业的人见面，并随着时间的推移，模式匹配什么有效，什么无效。与此同时，我终于开始了我的编程语言研究，从一位教授那里获得了研究资金，并招募了一些朋友参与一个静态缓冲区溢出检测项目。

几周后，我接到了一家位于帕洛阿尔托的未上线初创公司的联系。通常我会忽略这封邮件，但我已经决定开始与初创公司会面。我和团队一拍即合，我知道这正是我一直在寻找的那类人。所以我离开了学校，我们的缓冲区溢出检测器从未真正投入使用。

Stripe #

这家公司现在是 Stripe。我帮助它从 4 个人扩展到 250 人，在我离开后的那一年里，它继续在没有任何我的帮助下扩展到 450 多人。

当我考虑离开的时候，主要是因为我觉得公司处于一个很好的位置，无论有没有我，它都会继续做伟大的事情。我最关心的是与优秀的人一起工作，做出一些了不起的事情——但开发者基础设施不是我余生想要解决的问题。

然而，有一个问题我可以想象自己乐于用余生去解决：将人类推向安全的人类级 AI。很难想象还有什么比成功地创造 AI 更令人惊叹和积极的影响，只要它是以一种好的方式完成的。

离开 Stripe #

在我最终决定离开之前，Patrick 让我去和 Sam Altman 谈谈。他说 Sam 有一个很好的局外人视角，见过很多处于类似情况的人，可能会对我应该做什么给出很好的建议。

在与 Sam 交谈的五分钟内，他告诉我，我绝对已经准备好离开了。他说，如果他能在确定我的下一件事上提供帮助，请告诉我。

我回答说 AI 是我的首选 (而且这绝对是我的人生目标) 。然而，我还不确定现在是否是合适的时机，以及我贡献力量的最佳方式是什么。

他说：“我们一直在考虑通过 YC 成立一个 AI 实验室。我们应该保持联系。”

初步探索 #

大约一两个星期后，我离开了 Stripe，开始深入研究 AI，试图更好地了解这个领域正在发生的事情。即使只是从 Hacker News 上的帖子 (例如 char-rnn) 来看，很明显，人们对 AI 的兴趣和活动越来越多，尤其是深度学习。但我以健康的怀疑态度来对待这个领域：我想在深入研究之前确定事物是否真的有效。

我的第一个目标是弄清楚深度学习究竟是什么。事实证明，这出奇地困难。例如，deeplearning.net 只是说“深度学习是机器学习研究的一个新领域，它的引入是为了让机器学习更接近其最初的目标之一：人工智能”，这听起来很令人兴奋，但描述性不强**[1]**。

幸运的是，我有一些朋友在 AI 领域工作，Dario Amodei 和 Chris Olah。我向他们寻求一些指导，他们给了我一些很好的入门资源。其中最有用的的是 Michael Nielsen 的书，在读完之后，我在 Kaggle 上练习了我新学到的技能。(我甚至在我第一次比赛中排名第一了一段时间！)

燃起兴趣 #

一路走来，我不断遇到 AI 领域的超级聪明的人，并与我大学里的一些最聪明的朋友重新建立了联系，比如 Paul Christiano 和 Jacob Steinhardt，他们现在都在这个领域工作。这是一个强烈的信号。

我挖掘得越多，就越相信 AI 即将产生影响。深度学习的能力令人印象深刻：例如，我们现在可以以极高的准确率对图像中的物体进行分类 (尽管有 2014 年的这张 XKCD 漫画) ，语音识别 已经变得非常好，我们可以生成令人惊讶的逼真的图像。话虽如此，这些技术仍然很新，还没有改变任何人的生活方式：它们今天的影响仅限于为某些产品功能提供支持。

我记得我对一个朋友说过这句话，他曾在 Facebook 构建过新闻推送。他的回答是怀疑的。“简单的算法，大量的数据。”每个人都试图兜售酷炫的新 AI 算法，但实际上，如果你只是扩大逻辑回归的规模，它就会工作得很好。然后，我从口袋里掏出 谷歌翻译应用程序，把它调成飞行模式，并演示了它是如何直接在图像上翻译摄像头下的文本的。他对此印象深刻，并承认简单的算法在这种情况下无济于事。(它主要但不是 100% 的深度学习，但这无关紧要——重要的是它**有效**。)

最初的火花 #

6 月，Sam 联系我，问我是否已经想好下一步要做什么。我告诉他，我目前的计划是在明年内创办一家 AI 公司。我们打了个电话，在电话中他提到他们正在推进 YC AI 项目。我问 Sam 实验室的目的是什么。

“为了构建安全的人类级 AI”，他说。

那一刻，我知道他是建立我下一家公司的最佳合作伙伴。今天很少有人敢于明确地尝试构建人类级 AI。我意识到，有时候，一项事业只需要有人足够大胆地说出一个目标，然后合适的人就会加入他们。

晚餐 #

大约一个月后，Sam 在门洛帕克安排了一次晚宴。名单上有 Dario、Chris、Paul、Ilya Sutskever、Elon Musk、Sam 和其他几个人。

我们讨论了该领域的现状，人类级 AI 似乎还有多远，实现目标可能需要什么，等等。谈话的中心是哪种组织最能确保 AI 的益处。

很明显，这样的组织需要是一个非营利组织，没有任何相互竞争的动机来削弱其使命。它还需要处于研究的最前沿 (根据 Alan Kay 的名言，“预测未来的最佳方式是创造未来”) 。为此，它需要世界上最好的 AI 研究人员。

所以问题变成了：是否有可能从头开始创建一个拥有最好 AI 研究人员的实验室？我们的结论是：并非明显不可能。

这是我第一次见到 Elon 和 Ilya，我清楚地记得我对他们的印象。Elon 的好奇心给我留下了深刻的印象，他非常想知道别人的意见，并真正地倾听他们的意见。另一方面，Ilya 则是一个基础：他是一位技术专家，知识面广，视野开阔，总是能够深入了解当前系统的局限性和能力。

晚宴结束后，Sam 让我搭车回城。我们都认为在这里开始做点什么似乎是值得的。我知道，只有当有人愿意全职投入到弄清楚这到底是什么以及谁将参与其中时，才会发生这种情况。我自愿成为贡品。

就这样，第二天，我又有了可以产生影响的东西可以去构建。

**脚注：**

**[1]** 我让 Ilya 建议一个好的定义：

监督式深度学习的目标是解决几乎所有“将 `X` 映射到 `Y`”形式的问题。`X` 可以包括图像、语音或文本，`Y` 可以包括类别，甚至句子。将图像映射到类别，语音映射到文本，文本映射到类别，围棋棋盘映射到好的棋步，等等，都是非常有用的，而且用其他方法无法做得这么好。

深度学习的一个吸引人的特点是它在很大程度上是领域无关的：在一个领域学到的许多见解适用于其他领域。

在幕后，模型建立了多层抽象。这些抽象完成了任务，但要理解它们究竟是如何做到的，真的很难。模型通过使用极其简单但神秘有效的反向传播算法，逐渐改变神经网络的突触强度来学习。因此，我们可以用很少的代码构建极其复杂的系统 (因为我们只编写模型和学习算法的代码，而不是最终结果的代码) 。