AGI

本文是 OpenAI 的联合创始人兼 CEO Sam Altman 在今早刚发表的一篇文章，核心观点是，人工通用智能 (AGI) 的发展正快速推进，预示着社会和经济将发生巨大变革。Altman 认为， AGI 不仅仅是又一项技术工具，而是一个划时代的转折点，它将极大地提升人类的生产力，并有可能解决许多全球性难题。 AGI 的定义与愿景： AGI 被定义为一种能够在多个领域以人类水平解决复杂问题的系统。AGI 是人类不断进步的阶梯上又一个工具，但这次有所不同，它将带来惊人的经济增长，并有望实现治愈疾病、增加休闲时间、充分发挥创造潜能等愿景。 AI 发展的三个经济学观察： 智能与资源成对数关系： AI 模型的智能水平大致与训练和运行它所使用的资源 (计算资源、数据、推理计算) 的对数成正比。这意味着持续投入资源可以持续且可预测地提升 AI 智能。 AI 使用成本快速下降： AI 的使用成本大约每 12 个月下降 10 倍。例如， GPT-4 的 token 成本从 2023 年初到 2024 年中发布的 GPT-4o 下降了约 150 倍。这种成本下降速度远超摩尔定律。 智能线性增长的社会经济价值超指数级增长： 线性增长的智能所带来的社会经济价值呈超指数级增长。因此，对 AI 的指数级增长投资在可预见的未来不会停止。 AI 智能体 (AI agents) 的出现： AI 智能体，例如软件工程智能体，将逐渐普及，并像虚拟同事一样工作。它们能够完成资深软件工程师在数天内完成的大部分任务，尽管需要人类的监督和指导，并且在某些方面表现出色，在另一些方面则可能表现不佳。 AGI 对社会和经济的长期影响： AGI 可能会像晶体管一样渗透到经济的各个角落，广泛分布其收益，并深刻改变人们的生活。虽然短期内生活变化不大，但长期来看，社会和经济将发生巨大变革。 个人能力提升与价值重塑： AGI 将极大地提升个人能力，使个人能够产生比以往更大的影响力。意志力、目标明确性和适应不断变化的世界的能力将变得极其重要。 AGI 影响的不均衡性： AGI 对不同行业的影响程度不同，科学进步可能会加速，某些商品的价格将大幅下降，而奢侈品和稀缺资源的价格可能会上涨。 AGI 的社会融合与安全： 作者强调，需要社会各界共同思考如何将 AGI 融入社会， 原文 我们的使命是确保通用人工智能 (AGI) 惠及全人类。...

2025年 1 月 20 号 DeepSeek 因开源了 o1 级别的深度推理模型 DeepSeek-R1 而在全球爆火，同时也登顶了中国、美国、英国等多个国家的 App Store 的下载榜榜首，甚至一度让英伟达的股价暴跌 17%，核心原因有两点： 模型权重和技术细节完全公开，可复现； R1 的能力水平与 OpenAI 的 o1 相媲美，但通过创新算法和优化训练流程其成本仅为o1的3%-5%，训练成本仅为560万美元。 DeepSeek R1 的发布引爆了硅谷，在其发布一周后，微软云 Azure、亚马逊云 AWS、NVIDIA NIM、HuggingFace、Ceberus、Groq、Perplexity、Cursor、Windsurf、Krea 等各云厂商和 AI 产品陆续部署或接入 DeepSeek R1 和 V3 模型。更引来一众大佬的点评，有的大为赞赏，有的阴阳怪气，如 OpenAI CEO Sam Altman 表示"DeepSeek 的 R1 模型令人印象深刻，尤其考虑到其定价和性能表现。我们显然会推出更优秀的模型，而且看到新的竞争者加入也真的令人鼓舞！我们将很快发布一些新成果。"，果然在 2025年1 月 31 号 OpenAI o3-mini 发布了。 OpenAI 高级研究副总裁 Mark Chen 表示“DeepSeek R1 论文中的发现和 o1有着相似的核心思想”。 Anthropic CEO Dario Amodei 发布长文表示“DeepSeek 的技术进步，实际上是在预期的 AI 成本降低趋势之内，而非颠覆性的突破。尽管 中国 AI 公司 DeepSeek 在降低 AI 模型成本和提升性能方面取得了显著进展，但这非但没有削弱，反而更加强调了美国对华芯片出口管制的重要性”。 Groq 联合创始人兼 CEO Jonathan Ross 表示：“DeepSeek 的出现被认为是 AI 领域的 “Sputnik 2....

本文讨论了未来十年内人工智能（AI）领域的重大变革，尤其是通用人工智能（AGI）和超级智能的快速发展。作者认为，随着计算能力和算法效率的提升，AGI 可能在 2027 年前实现，并在此后迅速进化为超级智能。这场技术竞赛将引发全球范围的工业动员，特别是在美国，涉及数万亿美元的投资和国家安全力量的介入。本文还探讨了超级智能带来的挑战，包括安全问题、对抗中国的竞争，以及如何确保“自由世界”在这场竞赛中胜出。 AGI 竞赛的启动：目前，全球尤其是美国，正加速推进 AGI 的研发。预计到 2025/26 年，AI 的能力将超过许多大学毕业生，并在 2027 年前实现真正的 AGI。随着技术的快速发展，超级智能的出现也变得不可避免。 工业动员与电力扩张：为了支持 AGI 和超级智能的发展，美国将大规模扩展电力生产，预计未来十年内电力产量将增长数十个百分点。成百上千万的 GPU 将投入使用，推动工业的全面动员。 超级智能的潜力与风险：超级智能不仅将推动 AI 研究的自动化，还可能在极短时间内实现巨大的算法进步。然而，控制远超人类智能的系统仍是一个未解决的技术难题，处理不当可能导致灾难性后果。 国家安全的介入：随着 AGI 竞赛的加剧，美国政府将逐渐介入，预计到 2027/28 年会有一个正式的国家 AGI 项目启动。此时，国家安全力量将全面投入，确保 AGI 技术不落入敌对国家手中。 中美竞争与自由世界的存亡：超级智能将赋予拥有它的国家巨大的经济和军事优势。美国及其盟友必须在这场竞赛中保持领先地位，否则“自由世界”的生存将面临威胁。 安全与对抗中国：目前，许多 AI 实验室对安全问题重视不足，关键技术可能落入中国等国家之手。确保 AGI 的安全和防止技术外泄将是未来的关键任务。 导引 - 形势感知 (Situational Awareness)：未来十年 Leopold Aschenbrenner，2024 年 6 月 想窥见未来？那就来旧金山 (San Francisco) 吧。 在过去一年里，城中热议的话题已经从百亿美元级的算力集群一路飙升到千亿美元级，再到万亿美元级。每六个月，企业规划的金额就翻十倍。在你看不到的地方，一场争夺战正激烈上演，目标是未来十年所有可用的电力合同和所有能采购到的电压变压器。美国各大企业正准备投入数万亿美元，开启一场久违的工业动员。到这个十年结束时，美国的电力产量将增长数十个百分点；从宾夕法尼亚州 (Pennsylvania) 的页岩气田到内华达州 (Nevada) 的太阳能农场，数亿个 GPU 将日夜轰鸣。 通用人工智能 (AGI) 的竞赛已经打响。我们正在建造能够思考和推理的机器。到 2025/26 年，这些机器的能力将超过许多大学毕业生。到这个十年结束时，它们将比你我都聪明；我们将迎来真正的超级智能 (Superintelligence) 时代。与此同时，沉寂了半个世纪的国家安全力量将被释放，不久之后，“The Project” （一个意义重大的项目）也将启动。如果我们幸运，我们将与中国 (CCP) 展开全面的竞争；如果我们不走运，那将是一场全面的战争。 现在人人都在谈论人工智能 (AI)，但很少有人真正理解即将到来的变革。英伟达 (Nvidia) 的分析师仍然认为 2024 年可能接近峰值。主流评论员仍抱着“人工智能只是在预测下一个词”的观点，对即将到来的巨变视而不见。他们看到的只是炒作和商业活动，最多认为这只是又一次互联网规模的技术变革。...