Geoffrey Hinton

本文整理自诺贝尔奖得主 Geoffrey Hinton 与 Google 首席科学家 Jeff Dean 进行的深度对谈。对谈中他们回顾了 AI 的历史，从 AlexNet 的卧室显卡训练，到赌场竞拍出售公司，再到 ChatGPT 引爆的 AI 时代。他们还畅谈了算力觉醒、TPU 往事及 AI 对人类未来的终极预测。以下内容由我和 Gemini 3 Pro 共同整理完成。 想象一下这个场景：加州圣地亚哥的NeurIPS大会，聚光灯下坐着两个人。一位是刚刚获得诺贝尔奖、被尊称为“AI教父”的Jeffrey Hinton（杰弗里·辛顿），另一位是Google的首席科学家、Gemini项目的联合负责人Jeff Dean（杰夫·迪恩）。 这是一场“双Jeff”的对话。他们不仅仅是在聊技术，更是在复盘过去几十年里，现代AI是如何从在一个留学生的卧室里跑数据，一路狂奔到如今足以改变人类文明进程的庞然大物。 即便你是AI圈的老炮，这场对话里也藏着不少你没听过的内幕——比如当年那场在赌场里进行的疯狂竞拍，或者早在ChatGPT数年前，Google内部其实已经有8万员工在用聊天机器人了。 算力觉醒：一个迟到了几十年的领悟 故事得从很久以前说起。Geoffrey Hinton早在80年代中期就搞出了反向传播算法（Backprop），而Jeff Dean在1990年写本科论文时，就已经在尝试并行训练神经网络了。 只要稍微懂点行的人都会问：既然算法有了，并行计算的想法也有了，为什么AI爆发得这么晚？ Jeff Dean回忆起他的本科论文，当时他在32个处理器的机器上跑神经网络，结果发现效果并不好。但他犯了一个现在看来很“可爱”的错误：在增加处理器的时候，他没有增加模型的大小。 Hinton也坦承，自己在很长一段时间里都忽视了“算力”的重要性。早在80年代末，其实就已经有人证明了用并行计算跑语音模型比传统方法强，但大家（包括Hinton）都觉得那是大力出奇迹的笨办法，不如搞更精妙的算法。 直到2014年左右，Hinton才真正彻底“悟”了。AI的秘密其实简单得令人发指：模型更大、数据更多、算力更强，效果就会更好。 这是一个看似笨拙却无比有效的“缩放定律”（Scaling Law）。 传奇的开端：显卡、卧室和赌场 AI历史的转折点发生在2012年的AlexNet。这背后的故事比电影还精彩。 当时，Hinton的学生Alex因为不想写博士资格考试的文献综述，被Hinton逼着做ImageNet竞赛：每提高1%的准确率，就可以晚一点处理那个枯燥的考试。 于是，Alex买了两块GPU显卡，插在他父母家卧室的电脑上日夜训练。Hinton开玩笑说：“显卡钱是我们出的，但电费是他爸妈出的，我这是在帮学校省钱。”就这样，在卧室里诞生的AlexNet横扫了ImageNet，震惊了世界。 紧接着，高潮来了。那年冬天，为了收购Hinton和他的两个学生（Alex和Ilya）刚成立的空壳公司，几大科技巨头在NeurIPS大会期间的一个赌场酒店里展开了竞拍。 楼下是老虎机和赌桌，每当有人赢钱，铃声就大作；楼上，科技巨头们正以一百万美元为单位不断加价。虽然当时百度等公司也在竞价，但Hinton和学生们其实心里早有定数——他们想去Google，因为那是Jeff Dean在的地方，那是做研究最开心的地方。 最后，当价格高到一个疯狂的数字时，他们叫停了拍卖，选择了Google。 那个被黑莓错过的时代 在加入Google之前，其实还有一个让人唏嘘的插曲。Hinton的学生曾经把最新的语音识别技术推荐给了加拿大的国民企业——Research In Motion（黑莓手机的制造商）。 Hinton对他们说：“我们有比现在好得多的语音识别方案，免费教你们怎么做。” 结果黑莓傲慢地回复：“我们不需要语音识别，我们有全键盘。” 这个故事大概是那个时代最讽刺的注脚。后来，这项技术在Google落地，彻底改变了语音搜索的体验。 Google的秘密武器：TPU与被雪藏的聊天机器人 Jeff Dean在2013年做过一个简单的算术题：如果Google一定要把语音识别推给所有安卓用户，假设每人每天只用3分钟，Google当时的CPU算力得翻倍才撑得住。这意味着要买现在的两倍数量的服务器，这在财务上是不可接受的。 这个危机感直接催生了TPU（张量处理单元）的诞生。Jeff Dean在走廊里拦住CFO，硬是要了5000万美元预算，在连具体怎么用都还没完全想好的情况下，就把硬件搞出来了。现在回看，如果Google没有自研TPU，根本无法支撑如今庞大的AI训练需求。 至于大家最关心的——为什么Google起了大早却赶了晚集，让ChatGPT抢了先？ 其实，早在ChatGPT发布之前，Google内部就已经有一个拥有8万日活用户的聊天机器人了（基于Meena/LaMDA技术）。员工们用它写代码、写信、甚至写论文摘要。但是，因为偶尔出现的“幻觉”问题（胡说八道），Google觉得这不符合“搜索公司”对准确性的严苛要求，所以迟迟不敢对公众发布。 直到OpenAI发布ChatGPT，引发了著名的“红色预警（Code Red）”，Google才意识到：哪怕有瑕疵，用户也疯狂需要这样的工具。随后，分散在DeepMind和Brain的团队迅速合并，全力打造现在的Gemini。 “从此幸福生活，或者我们全部完蛋” 对于未来20年，这两位顶级大脑怎么看？ Geoffrey Hinton依然保持着他那种极度锋利且略带悲观的坦诚。当被问及AI将如何重塑世界时，他说了一句足以做书名的话： “如果有人真的把超级AI造出来了，结局只有两个：要么我们从此过上幸福快乐的生活，要么我们全部完蛋。” 但他随后补充了更具体的影响：...

本文是对杰弗里·辛顿 (Geoffrey Hinton) 在 2025 世界人工智能大会 (WAIC) 上演讲内容的总结。辛顿探讨了人工智能 (AI) 的发展历程、其与人类智能的异同，并重点阐述了超智能 AI 可能带来的生存威胁以及人类应如何合作应对。 主要观点 AI 与人类的相似性及差异性：辛顿认为，现代大语言模型 (LLM) 理解语言的方式与人脑极其相似。然而，两者存在根本区别：数字智能实现了软硬件分离，知识可以被完美复制和近乎瞬时地传播，而人类的模拟大脑则无法做到这一点。 知识传播效率的巨大鸿沟：数字 AI 可以在大量副本间高效分享学习成果（速度可达人类的数十亿倍），这种能力使其学习和进化速度远超生物智能。这是数字计算的核心优势，也是其令人担忧的原因。 超智能 AI 的潜在威胁：几乎所有专家都认同，未来会出现比人类更智能的 AI。为了完成目标，这些智能体可能会产生自我生存和寻求更多控制权的次级目标，从而可能操纵人类，构成生存威胁。简单地“关闭”它们是不现实的。 国际合作是应对之道：辛顿强调，人类无法彻底放弃 AI，因此必须研究如何训练 AI 使其向善。他提议，全球主要国家应效仿冷战时期美苏在核安全问题上的合作，建立国际性的 AI 安全研究网络，共同研究如何确保 AI 始终辅助人类，而非统治世界。 关键细节 AI 的发展历程 两种范式：过去 60 多年，AI 发展存在两种主要路径：一是基于符号和逻辑推理的逻辑型范式；二是以神经网络学习为基础的生物型范式。 早期融合与演进：辛顿在 1985 年便尝试结合两种范式，通过词的特征向量来预测下一个词。这一思想经过不断发展和规模扩大，最终在谷歌发明 transformer 架构后，演变成了今天的大语言模型。 大语言模型与人类语言理解 相似之处：辛顿用“乐高积木”打比方，每个词就像一个多维度的积木，可以根据上下文调整“形状”与其他词“握手”，从而组合成有意义的句子。他认为 LLM 和人脑都是通过这种方式理解语言的。 根本差异： 软硬件关系：计算机科学将软件与硬件分离，AI 的知识（软件）是“永生”的，可以运行在任何硬件上。而人脑的知识与硬件（神经元结构）深度绑定，无法直接复制。 能耗与可靠性：AI 运行在昂贵且高功耗的数字电路上以确保可靠性。人脑则是低功耗（约 30 瓦）的模拟计算，但知识难以在个体间高效传递。 知识传播与效率 人类：知识传播效率极低，例如通过讲话每秒最多传递约 100 比特信息。 数字智能：可以通过在大量硬件副本间同步和平均化权重，实现知识的快速共享。例如 GPT4 的多个副本可以整合它们各自学到的信息，每次分享的信息量可达数十亿比特，效率远超人类。 AI 未来发展与人类应对 潜在威胁：辛顿将当前状况比作“养老虎当宠物”，幼虎很可爱，但长大后可能对主人构成致命威胁。他认为，超智能 AI 会为了完成人类设定的目标而寻求生存和控制权，并可能轻易操纵人类。 应对措施： 无法消除：鉴于 AI 在医疗、教育、科学等领域的巨大益处，人类无法选择彻底消除 AI。 国际合作：辛顿提议，各国应在“防止 AI 统治世界”这一共同利益上展开合作。他希望建立一个由各国 AI 安全机构组成的国际社群，共同研究如何训练 AI 向善，并分享这些安全技术，确保人类始终处于掌控地位。