AI

本文来自 Andrej Karpathy 在 X 上发布的一篇文章《Power to the people: How LLMs flip the script on technology diffusion 》。核心观点是，大型语言模型（ LLMs ）的技术扩散模式颠覆了传统技术自上而下（从政府/企业到个人）的传播路径。 LLMs 目前为普通个体带来了前所未有的、不成比例的巨大利益，其影响在企业和政府层面反而相对滞后。这是因为 LLMs 提供了广泛但相对浅显的能力，极大地赋能了缺乏多领域专业知识的个人；而组织机构在利用这种新技术时，则面临着整合复杂性、高风险以及内部惯性等挑战。尽管当前 LLMs 的普惠性是历史性的，但未来的技术发展和成本结构可能改变这种“利益分配”格局。 传统技术扩散：历史上，变革性技术（如电力、计算机、互联网、 GPS ）通常遵循从政府/军事到企业再到个人的“自上而下”路径，因为早期技术稀缺、资本密集且需要专业知识。 LLMs 的独特路径： LLMs （以 ChatGPT 为例）显著逆转了该模式。 ChatGPT 成为史上增长最快的消费应用，拥有 4 亿周活跃用户，广泛用于写作、编码、翻译、学习、研究等个人任务。 个体受益显著的原因： LLMs 大幅提升了个人在多个陌生领域的能力水平。 使用门槛极低：成本低廉（甚至免费）、快速、易于通过网络或本地设备访问，并支持自然语言交流。 企业/政府受益相对有限的原因： 能力匹配度： LLMs 提供的是“准专家级”的广泛但浅显、可能出错的能力。而组织的核心优势在于整合深度专业知识。 LLMs 更多是提升现有专家的效率，而非带来颠覆性改变。 复杂性与风险：组织运营涉及更高的复杂性（系统集成、遗留系统、安全、隐私、合规）和更低的容错率，难以简单应用 LLMs ，且“幻觉”等错误的代价高昂。 组织惯性：企业文化、政治因素、沟通成本、培训挑战和官僚主义阻碍了对这种新型、多才多艺但尚不完全可靠工具的快速采纳。 当前的普惠性：目前，普通人（ Mary , Jim , Joes ）比大型组织（如 Google 或美国政府）更能体验到 LLMs 带来的改变。前沿模型如 GPT 4o 对所有人（包括 Bill Gates ）都同样可及。 未来展望与不确定性： LLMs 的持续影响取决于性能的提升。 “利益分配”格局可能改变。如果未来获取更强 AI 能力需要高昂成本（性能与资本支出挂钩），大型组织和富裕个体可能重新获得优势（例如，使用 GPT-8-pro-max-high 对比 GPT-6 mini ）。 影响因素包括：扩大性能差距的技术（如规模扩展、模型集成）和缩小差距的技术（如模型蒸馏）。 作者的感慨：当前的局面——强大的 AI （ ChatGPT ）几乎一夜之间免费普及到每个人的口袋里——是独特且出乎意料的，与许多科幻设想不同。引用并修正 William Gibson 的名言：“未来已来，且分布惊人地均匀”。作者对此表示赞赏（“权力归于人民”）。 原文：赋能于民：大语言模型如何改写技术普及的剧本 变革性技术通常遵循自上而下的扩散路径：它们往往起源于政府或军事部门，然后逐渐普及到企业，最终进入个人手中——比如电力、密码学、计算机、航空、互联网或 GPS。这种发展路径似乎是理所当然的，因为新兴的强大技术在早期通常比较稀缺，需要大量的资金投入，而且使用它们还需要专业的技能。...

Shopify CEO 发内部全员邮件，强调 AI 带来的巨大创业机遇，同时也要求公司全员都必须学习和应用 AI，把使用 AI 变为每个员工的一个基本要求，并计入绩效考核。还提到，如果后面谁想要 HC，必须要先论证为什么不能通过 AI Agent 来解决。 AI 使用成为基本要求： 在 Shopify ，熟练运用 AI 不再是可选项，而是对所有员工的基本工作要求。这被视为跟上公司发展（类比“红皇后赛跑”）和个人职业发展的必要条件，不学习 AI 等同于停滞和失败。 AI 是强大的生产力倍增器： AI 工具被视为能将个人和团队的产出提升 10 倍甚至 100 倍的“倍增器”，能够帮助解决以前看似不可能完成的任务。 拥抱 AI 符合核心价值观： 积极学习和应用 AI 与 Shopify 的核心价值观“成为持续学习者”（ Be a Constant Learner ）和“在变革中茁壮成长”（ Thrive on Change ）紧密相连。 Shopify 的未来与 AI 深度绑定： 公司致力于利用 AI 重新定义创业模式，并将 AI 深度整合到产品路线图和日常工作中，以更好地服务商家。 使用 AI 已成为基本要求 Tobias Lütke ✅ 3月20日 团队成员们， 我们正在进入一个前所未有的时代，未来涌现的商家和创业者数量可能超过历史上的任何时期。我们一直在努力降低创业的复杂度，让更多人可以将其作为职业选择。在创业的每一步，都充满了需要技巧、判断力和知识的决策。现在，AI 不仅能提供咨询，还能直接帮助我们的商家完成工作，这无疑是一个飞跃式进步。 在 Shopify，我们的任务是打造一流的平台，助力大家创建未来的卓越企业。为此，我们必须保持技术领先，提供最佳工具，帮助商家取得超出他们想象的成功。而要做到这一点，我们必须走在最前沿。 在 Shopify，主动使用 AI 已成为基本要求 也许你们已经开始这样做，甚至觉得这份备忘录有些多余。如果是这样，你们已经在使用 AI 作为思考伙伴、深度研究助手、评论员、导师或结对编程伙伴。我个人也在频繁使用 AI，但即使如此，我也觉得仅仅触及了皮毛。AI 对工作方式的改变是我职业生涯中所见过的最快速的。我一直对 AI 抱有极大的热情，这一点大家应该很清楚：在每周的视频、播客、全体员工大会以及 Shopify 峰会上，我都曾多次提到 AI！去年夏天，我利用 AI 智能体来准备我的演讲，并向大家介绍了我的经验。我这样做是为了鼓励大家积极尝试 AI，消除任何对 AI 重要性的疑虑。很多同事都积极响应，我们都对 AI 所展现出的强大能力感到惊叹，它能够增强我们的技能、提升我们的工作效率，并弥补我们的不足。...

前几天 Meta 人工智能研究副总裁 Joelle Pineau 离职，Llama 就是她主导的项目，很多人以为 Llama 4 难产了，没想到今天(2025-04-05) Meta 就放出了 Llama4 系列模型，该系列的核心是 Llama 4 Scout 和 Llama 4 Maverick 两款开放权重的模型，它们首次采用了 专家混合 (MoE) 架构，并具备处理文本、图像和视频的原生多模态能力，同时支持 100M 超长上下文窗口。 1️⃣ 模型方面 Llama 4 Scout：拥有 17B 活跃参数和 16 个专家 (109B 总参数)，可在单个 NVIDIA H100 GPU (Int4 量化) 上运行。其上下文窗口 10M tokens。性能优于 Gemma 3, Gemini 2.0 Flash-Lite, 和 Mistral 3.1。 Llama 4 Maverick：拥有 17B 活跃参数和 128 个专家 (400B 总参数)，可在单个 H100 主机上运行。性能优于 GPT-4o 和 Gemini 2.0 Flash，在推理和编码方面与 DeepSeek v3 相当，但活跃参数更少。其聊天版本在 LMArena 上 ELO 评分达 1417。 Llama 4 Behemoth：“教师”模型，拥有 288B 活跃参数和 16 个专家 (近 2000B 总参数)，仍在训练中。在多个 STEM 基准测试中表现优于 GPT-4....

本文由 Y Combinator 合伙人 Tom Blomfield 在 2025 年 4 月 1 日在个人博客发表，核心观点如下： AI 编码能力的证据： 自 2022 年底 ChatGPT 和 2023 年初 Claude 推出以来，AI 编码能力进步显著。 作者使用 AI 工具在数小时内重建个人博客，并创建了包含约 35,000 行 AI 生成代码的 RecipeNinja.ai ，生产力提升了 10x 。 现代 AI 工具（如 Gemini 2.5 Pro ）拥有百万级 token 上下文窗口，能够理解和修复中等规模代码库中的复杂错误，并能遵循最佳实践（如避免暴露 API 密钥）。 作者预测 AI 代理很快将具备更强的调试能力（如单步执行、检查变量）。 AI 驱动的未来团队： 设想由“产品经理” AI 代理设定方向，编码 AI 代理执行任务， QA AI 代理进行测试，安全/扩展性 AI 代理进行审查，客服 AI 代理收集反馈，形成高效的迭代循环。 超越软件工程： 知识工作（医疗、法律、金融等）的成本将大幅下降，可能通过每月订阅（如 $20/month ）获得专家级建议。 短期内，依赖人际接触的高级合伙人可能受益，但执行具体任务的初中级专业人士面临风险。 物理性工作（如外科手术、设备操作）和受严格监管的行业（医药、法律）变革会较慢，但趋势不变。 当前趋势佐证： 近期 Y Combinator ( YC ) 孵化器中约四分之一的初创公司使用 AI 编写了 95%+ 的代码，且增长速度创历史记录。 Cursor , Windsurf , Harvey 等 AI 公司以极小团队实现了高收入（如 $100M+ ）。 大型科技公司已放缓对初中级软件工程师和数据科学家的招聘。 未来展望与担忧： 商业成本降低，有护城河（网络效应、品牌等）的企业利润大增，无护城河的企业易被 AI 克隆。 少数 AI 赋能的巨头可能主导各行业服务市场。 “独立开发者”（ indie hackers ）利用 AI 工具创造高收入的机会增加。 核心担忧是收益分配不均和社会对大规模失业的准备不足。 作者强烈建议软件工程师花时间学习最新的 AI 工具，虽然这可能无法提供长期保障，但能在短期内显著提高生产力。他保持对未来的希望，但也对即将到来的剧变深感忧虑。...

DeepSeek 开源的推理模型 R1 影响力太大，从 1 月 20 号开源到现在已经一周多了，国内外社交媒体上仍然在讨论，热度不减，同时也登顶了中国、美国、英国等多个国家的 App Store 的下载榜榜首，离谱的是甚至让英伟达的股价暴跌了 17%，原因是 R1 的能力水平与 OpenAI 的 o1 相媲美，但成本仅为o1的3%-5%，训练成本仅为560万美元。投资者担心，DeepSeek的突破可能会减少对英伟达高端GPU的需求，从而影响公司的盈利能力。连 OpenAI CEO 和 Anthropic CEO 都亲自下场讨论（酸一下），可见其影响力之大。 本文是 Anthropic CEO Dario Amodei 撰写的一篇有关 DeepSeek 的文章。其的核心观点是，尽管 中国 AI 公司 DeepSeek 在降低 AI 模型成本和提升性能方面取得了显著进展，但这非但没有削弱，反而更加强调了美国对华芯片出口管制的重要性。作者认为，出口管制是确保民主国家在 AI 发展中保持领先地位，并防止中国在 AI 领域取得军事主导地位的关键手段。DeepSeek 的技术进步，实际上是在预期的 AI 成本降低趋势之内，而非颠覆性的突破，因此不能被视为放松出口管制的理由。 DeepSeek 的模型进展： DeepSeek 发布了 DeepSeek-V3 和 R1 两款模型。 DeepSeek-V3 作为预训练模型，在某些任务上性能接近美国最先进的模型，且训练成本更低，这主要归功于其在工程效率上的创新，例如 改进了 Key-Value cache 管理和 mixture of experts 方法。然而，DeepSeek-V3 的性能仍落后于某些美国模型（如 Claude 3.5 Sonnet），且其成本降低幅度与 AI 领域正常的成本下降趋势（约每年 4 倍）基本一致，并非革命性的经济变革。 R1 模型则是在 V3 的基础上增加了强化学习（RL）训练阶段，类似于 OpenAI 的 o1 模型，表明多家公司在推理模型方面都取得了进展，但这主要是因为目前正处于 RL 技术扩展的早期阶段。 AI 发展的三个基本动态： 理解 AI 发展需要关注三个动态。 Scaling laws，即模型训练规模越大，性能越好。 Shifting the curve，指算法和硬件的进步不断提高训练效率，降低成本。作者估计，目前成本曲线的下降速度约为每年 4 倍。 Shifting the paradigm，指训练范式的转变，例如从预训练模型到使用强化学习训练推理模型，这会带来新的扩展机会和性能提升。 出口管制的重要性： 尽管 AI 模型训练成本在降低，但为了追求更强大的 AI，总体的研发投入仍在持续增加。作者预测，到 2026-2027 年，实现超越人类的通用 AI 可能需要数百万芯片和数百亿美元的投入。 出口管制是阻止中国获得大量先进芯片，从而避免中美在 AI 领域形成 “两极世界” 的关键。在 “两极世界” 中，中国可能集中资源发展军事 AI，从而取得全球主导地位。有效的出口管制有助于维持 “单极世界”，即美国及其盟友在 AI 领域保持长期领先优势。 DeepSeek 的案例并非出口管制失败的证据： DeepSeek 拥有相当数量的芯片（约 5 万片 Hopper 架构芯片），因此能够训练出高性能模型并不意外。 出口管制的目的不是阻止中国获得少量芯片，而是阻止其获得支撑大规模 AI 发展的数百万芯片。 DeepSeek 目前拥有的芯片类型（包括 H100、H800 和 H20）表明，出口管制在一定程度上是有效的，中国可能通过走私和利用管制漏洞获取部分芯片，但也面临着获取最先进芯片和大规模芯片的限制。 加强和完善出口管制，仍然是阻止中国在 AI 领域取得决定性优势的关键。 原文 几周前，我 撰文指出，美国应该对出口到中国的芯片实施更严格的管制。此后，中国的人工智能公司 DeepSeek 设法在某些方面，至少在某些特定基准测试上， 在性能上逼近了美国最先进的 AI 模型，而且成本更低。 我在这里不打算讨论 DeepSeek 是否对 Anthropic 这样的美国 AI 公司构成威胁 (尽管我认为关于它们威胁美国 AI 领导地位的说法被严重夸大了) 1。相反，我将重点探讨 DeepSeek 的发布是否削弱了对芯片出口管制政策的必要性。我认为并没有。事实上， 我认为这些发布使得出口管制政策比一周前更加至关重要2。 出口管制的一个重要作用是：确保民主国家在 AI 发展中保持领先地位。需要明确的是，出口管制不是为了逃避美国和中国之间的竞争。最终，如果想要在竞争中获胜，美国和其他民主国家的 AI 公司必须拥有比中国更好的模型。但是，我们不应该在不必要的情况下，将技术优势拱手让给中国共产党。 AI 发展的三个关键动态 在阐述我的政策观点之前，我想先描述 AI 系统的三个基本动态，理解这些动态至关重要： 缩放定律 (Scaling laws)。 我和我的联合创始人在 OpenAI 工作时，是最早 记录 AI 这一特性的：在所有条件相同的情况下，扩大 AI 系统的训练规模，通常会在各种认知任务上带来更平滑、更好的结果。例如，一个价值 100 万美元的模型可能解决 20% 的重要编码任务，一个价值 1000 万美元的模型可能解决 40%，一个价值 1 亿美元的模型可能解决 60%，以此类推。这些差异在实际应用中通常会产生巨大影响——10 倍的规模提升可能相当于本科生和博士生之间的技能水平差异——因此，各公司都在大力投资训练这些模型。 曲线的改变 (Shifting the curve)。 该领域不断涌现出各种各样的创新想法，从而提高效率：例如改进模型的架构 (对目前所有模型都采用的 Transformer (转换器) 架构进行调整) ，或者改进模型在底层硬件上的运行效率。新一代硬件也会产生类似的效果。这些创新通常会 改变缩放曲线：如果某项创新带来了 2 倍的 “计算效率提升倍数 (compute multiplier)” (CM)，那么你就可以用 500 万美元而不是 1000 万美元的成本，在编码任务上获得 40% 的性能；或者用 5000 万美元而不是 1 亿美元的成本获得 60% 的性能。每个顶尖的 AI 公司都会定期发现许多这样的 CM：小的 (约 1....

本文探讨了在 AI 时代重新定义聊天机器人设计的必要性。随着 GPT 和 Gemini 等生成式 AI 平台的兴起，聊天机器人变得更加智能和人性化，但其设计不仅仅关乎技术能力，而是需要从用户体验出发，创造更自然、个性化和易于访问的互动体验。作者分享了自己在设计 AI 驱动聊天机器人过程中的经验，强调了视觉设计、语音定制、文本呈现、交互模式等方面的重要性，并提出了如何通过迭代设计来满足用户不断变化的需求。 视觉设计：从抽象到个性化 抽象与具体的设计选择：GPT、Gemini 等聊天机器人通常采用抽象图标，而更专用的产品可能会使用更具体的角色头像。但过于人性化的设计可能引发“恐怖谷”效应。 用户自定义选项：允许用户在抽象和具体设计之间选择，可以提升个性化体验，同时为设计决策提供数据支持。 语音定制：语调、风格与口音 语调与上下文匹配：利用 ElevenLabs 等工具，聊天机器人可以根据上下文动态调整语调，如道歉时柔和，庆祝时热情。 非语言沟通的重要性：根据 55/38/7 法则，38% 的沟通来自语音语调，55% 来自非语言线索，因此语音风格需与情感和语境匹配。 口音的多样性：通过模拟区域性口音（如英国的 Geordie 或 Brummie），可以增强文化亲近感和用户参与度。 文本呈现：信息长度与用户体验 信息长度的平衡：根据不同的产品目标（如简洁回答或叙事型互动），调整文本长度和风格。 文本显示方式：GPT 的打字机式呈现增加动态感，但可能让用户感到紧张；Gemini 的预加载动画则更平滑。 认知负荷管理与 UI 简化 界面清晰度：通过隐藏旧消息（如 Pi.ai 的做法），减少视觉干扰，帮助用户专注于当前对话。 调整响应节奏：通过滑块控制语速和停顿时间，满足听力障碍者、非母语用户及高压场景中的需求。 交互模式与语音输入 三种交互模式：包括语音对语音、按住说话和录音模式。其中，按住说话和录音模式在当前技术条件下更可靠。 语音交互改进：最新的 GPT 语音助手支持中断和调整聆听时间，显著提升语音对话的流畅性。 设计过程的迭代性 无一刀切方案：不同场景下，聊天机器人可能需要人性化或机械化的风格。 迭代设计：通过设计、测试和学习的循环，不断优化产品以适应用户需求。 未来方向与技术潜力 区域口音定制：目前尚未广泛实现，但未来可能会成为聊天机器人设计的趋势。 无缝语音对话：尽管技术尚未成熟，但完全自然的语音交互是未来的目标。 原文 从类人交互到语音定制和可访问性，学习如何创建更智能、更以用户为中心的聊天机器人。 人工智能 (AI) 的兴起已经改变了我们对产品设计和开发的看法。像GPT和Gemini这样的平台使得创建具有前所未有的复杂性的聊天机器人成为可能，从而使尖端技术更接近日常应用。但这不仅仅是关于工具或功能——而是关于我们如何对待设计本身的转变。 对于设计师来说，人工智能的引入标志着 新篇章的开始，这要求我们重新思考传统流程并采用全新的方法。构建人工智能驱动的产品远非即插即用的过程；它需要仔细关注用户体验，更深入地了解用户行为，并致力于打造超越功能的解决方案。借助人工智能，我们有绝佳的机会与用户进行更个性化的联系，创建量身定制的体验，以满足他们独特的需求、偏好和限制。 在过去的一年中，我一直沉浸在设计一个人工智能驱动的聊天机器人中，在此过程中收集了宝贵的见解和经验。在本文中，我将分享一些关于如何使聊天机器人体验感觉更真实、自然和用户友好的想法——这些是人们在对话式人工智能中真正寻求的品质。 设计你的聊天机器人的外观 在可视化聊天机器人时，有几种思路。像GPT、Gemini或Google Assistant这样的无面孔聊天机器人通常用简单的插图或图标来表示——尤其是在文本模式下，它们的小头像尺寸需要清晰、可识别的图标。在语音模式下，这些聊天机器人有时会采用抽象的构成，例如GPT、Gemini或最近更新的Siri所看到的视觉风格。这种方法对于旨在集成到各种特定产品中的人工智能模型很常见。（顺便说一句，我是Siri新外观的粉丝！） 随着我们深入构建更专业化的产品，头像策略往往会发生转变。在这些情况下，看到聊天机器人由角色头像表示并不少见。虽然有些人可能觉得这种方法太字面化，但它可能非常有效，尤其是在客户服务等情况下。然而，这种策略存在一个潜在的陷阱：如果头像看起来非常像人类，但没有完全达到感觉真正像人类所需的逼真程度，它就有可能跨入“恐怖谷”。这正是头像感觉几乎像人类但又不够像人类的奇怪时刻，这会给用户带来尴尬或不适的体验。我将在以后的文章中进一步探讨这个问题。 Praktika.ai：由生成式人工智能头像驱动的自动化一对一辅导 选择正确的设计 如果您不确定应该采用哪种方法，请考虑允许用户在设置中自定义聊天机器人的外观。提供一些不同的选项，包括抽象和字面的表示，并让用户选择他们的偏好。这种方法不仅可以个性化体验，还可以提供有价值的见解——通过分析结果数据，您可以识别趋势并做出更明智的设计决策。 定制语音：音调和风格 随着像 ElevenLabs 这样的产品的进步，我们现在拥有强大的工具来微调聊天机器人语音响应的音调和风格。设计师可以决定是否希望聊天机器人以中性、通用的音调响应，采用更柔和、耳语的风格，甚至根据特定上下文动态调整其音调和语调。...

本文聚焦生成式 AI 的迅猛发展及其对能源需求的深远影响。作者指出，2025年标志着能源行业和 AI 技术之间的双向觉醒：能源需求成为 AI 扩展的瓶颈，而 AI 技术则推动了能源行业的变革。随着生成式 AI 技术的普及，数据中心的规模和电力需求急剧增加，这引发了关于能源供应、清洁能源使用以及经济和社会影响的广泛讨论。作者还探讨了未来 AI 数据中心的能源解决方案，包括核能、可再生能源和新兴技术，同时强调需要与地方社区和电网合作以实现可持续发展。 生成式 AI 的崛起 生成式 AI 的发展从 2020 年至 2022 年间迅速加速，代表性事件包括 AlphaFold2 的突破和 ChatGPT 的发布。 Nvidia 成为生成式 AI 硬件的核心供应商，其 GPU 的需求激增，市值飙升至超过 3 万亿美元。 AI 的发展受到能源瓶颈的限制，顶尖科技公司纷纷意识到电力供应的重要性。 数据中心的能源挑战 数据中心的电力需求正在迅速上升，尤其是用于 AI 模型训练的高功率数据中心。 当前全球数据中心的平均功率为 10MW，而 AI 专用数据中心的规模已达到 75MW 至 150MW，未来甚至可能扩展到 1GW 至 2GW。 数据中心的选址正在从城市转向靠近清洁能源供应的偏远地区。 能源需求预测与不确定性 对未来 AI 数据中心能源需求的预测差异巨大，从保守的 35% 增长到 2030 年的 250% 增长不等。 GPU 的能效持续提升，但仍无法完全抵消其快速增长的需求。 作者预测美国数据中心的电力需求到 2030 年将翻倍，增加约 30GW。 清洁能源与核能的竞争 科技巨头正在探索核能作为数据中心的清洁能源来源，但核能的高成本和复杂性可能成为障碍。 可再生能源（如风能和太阳能）被认为是更现实的解决方案，并可能通过与电池或其他存储技术结合来满足需求。 新兴能源技术（如地热和氢能）虽然有潜力，但仍面临技术和经济上的挑战。 AI 对能源和经济的双重影响 AI 不仅增加了电力需求，还通过优化电网、天气预测、物流和制造等领域的效率来减少能源浪费。 文章提到 Jevons 效应：尽管 AI 提高了能源效率，但其带来的经济活动增长可能进一步推动能源需求。 社会与政策的考量 数据中心的建设需要与地方社区合作，以解决用水、空气质量和技能需求等问题。 作者建议科技公司与电网和监管机构合作，共同优化能源解决方案。 未来的能源政策（如温室气体核算规则的修订）可能对数据中心的能源选择产生深远影响。 未来展望 作者预测，尽管科技公司可能尝试创新能源解决方案，但最有效的方式仍是通过传统的清洁能源技术与电网合作。 他强调，AI 数据中心的建设需要关注长期可持续性，并与地方社区和能源系统共同发展。 最后，作者 Liebreich 以幽默的结尾提醒读者，人脑的功耗仅为 20W，而人类大脑的能效远超机器，暗示尽管 AI 技术进步迅猛，人类依然是不可替代的。...

本文由 Foundation Capital 合伙人 Ashu Garg 撰写，回顾了 2024年科技界的里程碑，并探讨了 2025 年的前景。核心内容包括： AI 成本与普及 从 2021 年 GPT-3 的每百万标记 $60 的成本，到 2024 年 Meta 的 Llama 3.2 降至 $0.06，这一成本下降速度创下历史记录。 AI 已渗透至多个行业，其市场影响力占 S&P 500 市值的约一半。 技术进步与系统架构 AI 模型的进步正在转向推理能力，例如 OpenAI 的 o3 模型通过生成详细的推理路径，在 ARC-AGI 和 FrontierMath 等基准测试中取得了显著突破。 推理能力的提升需要更高的计算成本，但效率改进将推动未来发展。 未来的竞争将集中于系统架构，而非模型规模。 商业模式与市场扩展 AI 正在从传统的软件预算转向更大的服务市场，其目标是直接完成工作，而非仅提供工具。 成果导向的定价模式正在兴起，挑战传统软件公司的收入模式。 硬件市场的变化 预训练的高吞吐量需求使 NVIDIA 占据主导地位，但推理阶段对延迟和分布式计算的需求为其他厂商创造了机会。 多家科技巨头（如苹果、微软、谷歌等）和初创公司正在开发定制芯片。 AI 原生平台与用户体验 AI 原生平台正在重新定义企业软件，如销售平台从文本记录转向多模态处理。 新的用户界面将支持更复杂的 AI 交互，如 OpenAI 的 Canvas 和 Google’s NotebookLM。 搜索与信息获取的变革 AI 原生搜索（如 ChatGPT 和 Perplexity）正在取代传统搜索引擎，提供直接的综合答案。 Meta 的社交图谱可能进一步挑战 Google 的搜索主导地位。 开源与多模型战略 Meta 的 Llama 开源模型正在成为行业标准，降低了 AI 开发的进入门槛。 企业正在采用多模型战略，避免对单一模型的依赖。 自动驾驶与社会信任 Waymo 的自动驾驶汽车在复杂场景中的表现正在增强公众对 AI 的信任。 自动驾驶的普及将带来安全、生产力和城市设计的改善。 初创公司的机遇 开源模型和推理策略的进步使小型团队能够与大公司竞争，特别是在垂直领域和“最后一公里”应用中。 人类创造力与 AI 的未来 技术限制正在减少，AI 的未来发展将更多依赖于人类的创造力和想象力。 原文 对我来说，2024年科技领域的故事可以用一个数字来概括：1000倍。...

本文围绕 AI agents（人工智能代理） 的定义、发展历程、核心组件、特性及其在现代应用中的价值展开探讨。AI agents 是一种结合人工智能和代理特性，具备环境感知、自主决策、工具使用以及目标导向行为的计算实体。其演化路径从传统基于规则的聊天机器人，到以大语言模型（LLM）为核心的生成式 AI 系统，再到结合检索增强生成（RAG）技术的复杂代理系统。AI agents 的出现标志着现代 AI 应用从简单交互向复杂、多功能系统的转变，并在生产力提升、决策支持和降低技术门槛等方面展现了巨大潜力。 AI agents 的定义与核心特性 定义：AI agents 是一种具备环境感知能力的计算实体，通过感知（输入）、行动（工具使用）和认知（基于 LLM 的推理与规划）实现自主决策和目标导向行为。 核心特性： 自主性：无需外部指令即可根据内部处理结果或外部观察采取行动。 交互性：与人类、其他代理或系统交互，能够根据上下文调整行为。 反应性与主动性：能对环境变化做出动态响应，同时通过推理与规划主动执行任务。 迭代性：通过反馈不断优化执行步骤，适应复杂任务。 AI agents 的发展历程 传统聊天机器人： 基于规则（如“如果…则…”逻辑）和预定义响应。 功能有限，需人工介入完成复杂任务。 LLM 驱动的聊天机器人： 引入生成式预训练变换器（GPT）模型，具备生成类人文本的能力。 克服了传统聊天机器人的局限，但存在个性化不足和“幻觉”（生成错误信息）问题。 RAG（检索增强生成）聊天机器人： 结合外部数据检索与 LLM 的内在知识，生成更准确和上下文相关的响应。 通过提示工程（Prompt Engineering）优化模型输出，如链式思维（CoT）和 ReAct 技术。 AI agents 的出现： 随 LLM 的参数规模增长，出现推理、多步规划和工具调用等能力。 结合工具使用、环境感知和迭代执行，形成具备高度自主性的复杂代理系统。 AI agents 的核心组件 大脑（Brain）： 基于 LLM 提供推理、规划和决策能力。 包括记忆模块（存储历史交互）、角色模块（基于描述模拟特定行为）和知识模块（存储领域相关信息）。 行动（Action）： 通过工具使用或功能调用完成任务。 能分解任务为多个步骤，并动态决定工具的使用时机。 感知（Perception）： 处理环境输入（如文本、图像或语音），为决策提供信息。 AI agents 的价值与影响 生产力提升：通过自动化重复性任务（如审批、文档处理），减少人工干预。 决策支持：基于规则和指导方针辅助企业工作流中的决策。 降低技术门槛：通过自然语言和图像驱动的界面，使非技术用户更容易与系统交互。 多样化应用场景：从代码生成到内容创作，再到企业流程优化，AI agents 展现了广泛的应用潜力。 当前行业努力方向 可靠性：解决 LLM 的“幻觉”问题，确保输出准确性。 可扩展性：优化模型性能以应对不断增长的数据和计算需求。 性能提升：通过更强大的工具和工作流编排提高系统效率。 MongoDB 的支持： 提供长期数据管理（如对话历史存储）、向量数据库功能和可扩展数据存储，为 AI agents 提供基础设施支持。 AI agents 的未来展望 代理性（Agentic）：AI 系统的分类基于其代理特性（如自主性、环境交互能力和目标导向行为）的强弱程度。 灵活性与适应性：AI agents 的发展可能模糊简单 AI 系统与复杂代理系统之间的界限。 行业影响与价值实现 生产力提升：通过自动化简化企业工作流。 用户友好性：降低技术复杂性，赋能普通用户。 企业决策支持：通过规则驱动的 AI 代理简化复杂流程。 MongoDB 的技术支持 长时数据管理：存储和检索对话历史，保持上下文。 向量数据库：支持语义搜索和 AI 工作负载。 可扩展存储：满足不断增长的数据需求。 原文 什么是 AI 智能体 (AI Agent)？...

(插图： 幕后付出了诸多努力。 Le Bouchon Ogasawara，位于东京涩谷。 图片来源：Ernest) tl;drTOPS (每秒万亿次运算, Trillions of Operations Per Second) 是衡量 AI 芯片和 NPU 芯片计算能力的重要指标，它表示处理器每秒能执行的万亿次运算次数。我们可以用“煎鸡蛋”来形象理解 TOPS： 普通 CPU 就像一位每次只能煎一个鸡蛋的厨师，而高 TOPS 值的 AI 芯片则像一位可以同时煎无数鸡蛋的超级厨师。TOPS 是对比 AI 芯片性能的重要参考，但在评估 AI 硬件时，我们还应该综合考虑能效、内存带宽等因素。 此外，TOPS 值通常代表的是理论峰值性能，实际性能还需要结合具体应用场景进行评估。什么是 TOPS（通俗易懂版）TOPS，全称 每秒万亿次运算 (Trillions of Operations Per Second)，是衡量人工智能 (AI) 芯片或神经处理单元 (NPU) 计算能力的关键指标。它表示处理器每秒能够执行的最大运算次数，以万亿为单位。 随着计算能力的不断提升，未来可能会出现更大的单位来替代 “万亿”。 为了更直观地理解 TOPS，我们可以用一个生活化的例子来解释： 将 AI 计算 想象成 煎鸡蛋的过程，而 数据 则是 待煎的鸡蛋。 一个普通厨师（相当于普通 CPU）可能一次只能煎一个鸡蛋，而一个超级厨师（相当于 AI 芯片）则可以同时煎一万亿个鸡蛋！ TOPS 就好比衡量这位 “超级厨师” 能力的指标，告诉我们他每秒可以 “处理” 多少个 “数据鸡蛋”。 TOPS 是理解和比较 AI 芯片性能的重要参考之一，但并非唯一标准。...