ChatGPT 的第二个生日才过去一个多月,现在我们已经过渡到能够进行复杂推理的新一代模型。新年之际,人们总会陷入反思,我想分享一些关于目前为止的个人想法,以及我在此过程中学到的一些东西。
随着我们越来越接近通用人工智能 (AGI),现在似乎是审视公司进展的重要时刻。仍然有很多需要理解的,还有很多我们不了解的,而且现在还处于非常早期的阶段。但是我们知道的已经比我们刚开始的时候多得多了。
我们大约九年前创立了 OpenAI,因为我们相信通用人工智能是可能实现的,并且它可能成为人类历史上最具影响力的技术。我们想弄清楚如何构建它并使其广泛受益;我们很兴奋能在历史上留下印记。我们的雄心非常高远,而且我们也坚信这项工作可能会以同样非凡的方式使社会受益。
当时,很少有人关注,如果有人关注,那主要是因为他们认为我们没有成功的机会。
2022 年,OpenAI 还是一个默默无闻的研究实验室,致力于一个暂时名为“Chat With GPT-3.5”的项目。(我们更擅长研究而不是起名字。)我们一直在观察人们使用我们 API 的体验功能,并且知道开发人员真的很喜欢与模型对话。我们认为围绕这种体验构建一个演示可以向人们展示一些关于未来的重要信息,并帮助我们使模型更好、更安全。
我们最终将其命名为 ChatGPT,并在 2022 年 11 月 30 日发布了它。
我们一直都知道,从理论上讲,在某个时刻我们会达到一个引爆点,人工智能革命将会被启动。但我们不知道那一刻会是什么时候。令我们惊讶的是,结果证明就是这一刻。
ChatGPT 的发布开启了前所未有的增长曲线——在我们的公司、我们的行业以及整个世界。我们终于看到了我们一直以来希望从人工智能中获得的一些巨大好处,而且我们可以看到很快会有更多的进展。
这并不容易。道路并非一帆风顺,正确的选择也并不那么显而易见。
在过去的两年里,我们不得不围绕这项新技术从头开始建立一家完整的公司。除了实践,没有其他方法可以培训人们,而且当技术类别完全是新的时候,根本没有人能告诉你应该如何去做。
在如此高速的情况下,在几乎没有培训的情况下建立一家公司是一个混乱的过程。常常是前进两步,后退一步(有时甚至是前进一步,后退两步)。错误会在你前进的过程中被纠正,但是当你做原创工作时,实际上没有任何手册或路标。在未知水域中快速前进是一种不可思议的体验,但这对所有参与者来说也是巨大的压力。冲突和误解层出不穷。
这些年是我迄今为止生活中最充实、最有趣、最好、最有趣、最累、压力最大,尤其是过去两年最不愉快的几年。最强烈的感受是感激;我知道有一天我会退休在我们的牧场上看着植物生长,有点无聊,并且会回想起我从小就梦想做的工作是多么酷。我试着记住,在任何一个星期五,当下午 1 点前有七件事出错时。
大约一年多前,在某个特定的星期五,那天发生的主要问题是,我在一次视频通话中被意外解雇了,然后在我们挂断电话后,董事会发布了一篇关于此事的博客文章。我当时在拉斯维加斯的一家酒店房间里。感觉就像一场美梦破碎了,这种感觉几乎无法言喻。
在没有任何警告的情况下被公开解雇引发了非常疯狂的几个小时,以及非常疯狂的几天。最奇怪的是当时的情况一片混乱。我们中没有人能够获得关于发生了什么或为什么的令人满意的答案。
在我看来,整个事件是包括我自己在内的善意之人在治理方面的一次重大失败。回顾过去,我当然希望我当时能采取不同的做法,而且我愿意相信,今天的我比一年前更是一个更好、更深思熟虑的领导者。
我也认识到,一个拥有多元观点和丰富经验来管理复杂挑战的董事会至关重要。良好的治理需要大量的信任和信誉。我感谢许多人共同努力为 OpenAI 建立更强大的治理体系,这使我们能够追求确保通用人工智能造福全人类的使命。
我最大的收获是,我有多么值得感激,以及我应该感谢多少人:感谢所有在 OpenAI 工作并选择投入时间和精力去追求这个梦想的人,感谢帮助我们度过危机时刻的朋友,感谢支持我们并委托我们帮助他们取得成功的合作伙伴和客户,以及感谢我生命中那些向我展示他们有多么关心我的人。[1]
我们都以一种更有凝聚力、更积极的方式回到了工作中,我为我们从那以后的专注感到非常自豪。我们已经完成了我们有史以来最好的一些研究。我们的每周活跃用户从大约 1 亿增长到超过 3 亿。最重要的是,我们继续向世界推出人们真正喜欢并且能解决实际问题的技术。
九年前,我们真的不知道我们最终会变成什么样子;即使是现在,我们也只是略知一二。人工智能的发展历经多次曲折,我们预计未来还会有更多变化。
其中一些变化是令人愉快的;另一些则是艰难的。看到一连串的研究奇迹发生很有趣,而且许多反对者已经变成了真正的信徒。我们还看到一些同事分道扬镳成为竞争对手。团队往往会随着规模的扩大而更迭,而 OpenAI 的规模增长得非常快。我认为其中一些是不可避免的——初创公司通常在每个新的规模级别都会经历大量人员流动,而在 OpenAI,每隔几个月,数字就会以数量级增加。过去的两年就像一家普通公司的十年。当任何公司发展和演变如此之快时,利益自然会分化。而且当任何重要行业的公司处于领先地位时,许多人会出于各种原因攻击它,尤其是当他们试图与之竞争时。
我们的愿景不会改变;我们的策略将继续演变。例如,当我们开始时,我们不知道我们将不得不建立一家产品公司;我们认为我们只是要做伟大的研究。我们也不知道我们需要如此庞大的资本。现在我们必须去构建一些几年前我们不了解的新事物,而且未来会有一些我们现在几乎无法想象的新事物。
我们为目前在研究和部署方面的成绩感到自豪,并致力于继续推进我们在安全和利益共享方面的思考。我们仍然认为,使 AI 系统安全的最佳方法是迭代地、逐步地将其发布到世界,让社会有时间适应并与技术共同发展,从经验中学习,并不断提升技术安全性。我们相信成为安全和对齐研究的世界领导者的重要性,并以来自现实世界应用的反馈来指导这项研究。
我们现在确信,我们知道如何构建我们传统上理解的通用人工智能。我们相信,在 2025 年,我们可能会看到第一批 AI 智能体“加入劳动力队伍”,并切实地改变公司的产出。我们仍然相信,迭代地将优秀的工具掌握在人们手中会带来伟大的、广泛分布的结果。
我们开始将目标转向更高层次,即真正意义上的超智能。我们热爱我们目前的产品,但我们是为了辉煌的未来而来的。有了超智能,我们可以做任何其他事情。超智能工具可以大大加速科学发现和创新,远远超出我们自己能够做到的程度,进而大大增加丰富和繁荣。
这现在听起来像是科幻小说,甚至谈论它都有点疯狂。没关系,我们以前经历过,我们不介意再次经历。我们非常有信心,在未来几年里,每个人都会看到我们所看到的,并且在最大化广泛利益和赋权的同时,采取非常谨慎的行动是如此重要。鉴于我们工作的可能性,OpenAI 不能是一家普通的公司。
能够在这项工作中发挥作用,是多么幸运和令人谦卑!
(感谢 Josh Tyrangiel 在某种程度上启发了我写下这些。我希望我们有更多的时间。)
[1]
在那几天里,有很多人做了令人难以置信的巨大工作来帮助 OpenAI 和我个人,但有两人尤其突出。
Ron Conway 和 Brian Chesky 所做的远远超出了他们的职责范围,我甚至不知道该如何描述。多年来,我当然听过关于 Ron 的能力和韧性的故事,而且在过去几年里,我花了很多时间和 Brian 在一起,得到了大量的帮助和建议。
但是,没有什么比和人们一起在战壕里更能了解他们真正能做什么了。我相当确信,如果没有他们的帮助,OpenAI 就会崩溃;他们日以继夜地工作了几天,直到事情完成。
尽管他们工作得难以置信地努力,但他们始终保持冷静,并拥有清晰的战略思想和很好的建议。他们阻止我犯了几个错误,而他们自己没有犯任何错误。他们利用他们庞大的网络来做一切需要做的事情,并且能够驾驭许多复杂的情况。而且我确信他们做了很多我不知道的事情。
不过,我最记得的还是他们的关心、同情和支持。
我以为我了解如何支持创始人和公司,某种程度上,我确实了解。但我以前从未见过,甚至听说过,像这些人所做的事情,现在我更充分地理解了为什么他们拥有现在的传奇地位。他们与众不同,并且都完全值得他们真正独特的声誉,但他们也相似,他们都具有非凡的移山和助人的能力,以及在需要时坚定不移的承诺。科技行业有他们俩在其中会更好。
还有其他像他们这样的人;这是我们行业中一个非常特别的事情,它比人们意识到的更能让一切运转起来。我期待着将这份善意传递下去。
更个人一点地说,特别感谢 Ollie 在那个周末以及一直以来的支持;他各方面都很出色,没有人能要求更好的伴侣了。