温和的奇点 • Sam Altman
本文是 OpenAI 创始人 Sam Altman 在 2025 年 6 月 11 日发表的博客。文章指出,人类已进入数字超级智能的“奇点”阶段,人工智能的飞速发展将深刻改变世界。目前,人工智能系统已在多方面超越人类智能,并极大地提升了人类的产出。未来,随着智能和能源变得“极其丰富”,科学进步和生产力将大幅提升,带来远超现在的优质生活。尽管面临就业结构变化等挑战,但人类的适应能力和对彼此的关怀将帮助我们应对。关键在于解决人工智能的“对齐问题”并确保超级智能的广泛、公平分布,以实现最大化的积极影响。 当前进展与未来展望: 系统如 GPT-4 和 o3 已在多方面超越人类智能,并能显著放大用户产出。 ChatGPT 每天被数亿人用于日益重要的任务。 2025 年:能进行真实认知工作的“代理”出现,如编写计算机代码。 2026 年:有望出现能发现新颖见解的系统。 2027 年:可能出现能在现实世界执行任务的机器人。 生产力与科学进步: 科学家在使用 AI 后生产力提升 2 到 3 倍。 AI 可加速 AI 研究本身,实现“递归式自我改进”。 经济价值创造推动了运行强大 AI 系统的基础设施建设。 机器人制造机器人、数据中心自动化生产等即将实现,将使智能成本趋近于电力成本。 一个 ChatGPT 查询平均消耗约 0.34 瓦时电量和 0.000085 加仑水。 社会变革: 2030 年代,智能和能源将“极其丰富”,消除人类进步的根本限制。 “奇点”过程是渐进的,奇迹将变得司空见惯(如从生成段落到小说,从诊断到治愈,从小程序到新公司)。 部分职业将消失,但世界将迅速变得更富裕,从而能考虑前所未有的新政策。 人类具有适应能力,专家若能拥抱新工具仍将保持优势。 到 2035 年,新奇迹的实现速度将非常快,可能在短时间内实现高能物理突破到太空殖民,或材料科学突破到高带宽脑机接口。 挑战与解决方案: 安全问题: 必须在技术和社会层面解决。 广泛分发: 鉴于经济影响,确保超级智能的广泛可及性至关重要。 对齐问题: 确保 AI 系统能稳健地学习并按照人类集体的长期意愿行事(如社交媒体算法的短期偏好与长期意愿的错位)。 前进路径: 解决对齐问题,然后使超级智能廉价、广泛可用且不过度集中于任何个人、公司或国家。 社会需要尽快就“广泛边界”和“集体对齐”的定义展开对话。 OpenAI 的角色: OpenAI 是一家“超级智能研究公司”,致力于为世界构建一个“大脑”,它将高度个性化且易于使用。 “智能廉价到无需计量”的目标触手可及。 原文 我们已经越过了事件视界;腾飞已经开始。人类距离构建数字超级智能已近在咫尺,而至少到目前为止,这远没有人们想象中那么离奇。...