我们已经生活在令人难以置信的数字智能之中，经过最初的震惊，我们大多数人已经相当习惯。我们很快就会从惊讶于 AI 能生成一篇写得优美的段落，转变为想知道它何时能生成一篇优美的小说；或者从惊讶于它能做出挽救生命的医学诊断，转变为想知道它何时能开发出治疗方法；或者从惊讶于它能创建一个小型计算机程序，转变为想知道它何时能创建一家全新的公司。这就是奇点的发展方式：奇迹变得常规，然后成为必备条件。
我们已从科学家那里听到，他们现在比使用 AI 之前的生产力提高了两到三倍。高级 AI 有很多有趣之处，但或许没有什么比得上我们能够用它来加速 AI 研究这一事实更为重要。我们或许能够发现新的计算基座、更好的算法，以及谁知道还能发现什么。如果我们能在一年或一个月内完成十年的研究，那么进步的速度显然会截然不同。
从现在开始，我们已经建立的工具将帮助我们发现更多的科学见解，并帮助我们创建更好的 AI 系统。当然，这并不是指 AI 系统能够完全自主地更新自己的代码，但无论如何，这仍然是递归自我改进的幼体版本。
还有其他自我强化的循环在发挥作用。经济价值创造已经启动了一个滚雪球的复合基础设施建设过程，以运行这些越来越强大的 AI 系统。而能够建造其他机器人的机器人（以及在某种程度上，能够建造其他数据中心的数据中心）已经不远了。
我们已经越过了事件视界；起飞已经开始了。人类正接近构建数字超级智能，至少到目前为止，它比看起来要正常得多。
机器人还没有在街上行走，我们大多数人也没有整天和人工智能交谈。人们仍然会因疾病死亡，我们仍然无法轻易进入太空，而且我们对宇宙还有很多不理解的地方。
然而，我们最近已经构建了在很多方面比人类更聪明的系统，并且能够显著放大使用它们的产出。最不可能的部分已经过去了；让我们到达像 GPT-4 和 o3 这样的系统的科学见解是来之不易的，但将带我们走得很远。
人工智能将以多种方式为世界做出贡献，但人工智能推动科学进步和提高生产力的质量生活收益将是巨大的；未来可以远远好于现在。科学进步是整体进步的最大驱动力；想到我们能够拥有更多，这令人非常兴奋。
在某些重大意义上，ChatGPT 已经比历史上任何一个人都更强大。数亿人每天都在依赖它，并且用于越来越重要的任务；一项小小的全新能力可以产生巨大的积极影响；一项小小的偏差乘以数亿人就可能造成巨大的负面影响。
2025年见证了能够进行真正认知工作的智能体的出现；编写计算机代码将永远不同。2026年可能会见证能够发现新见解的系统出现。2027年可能会见证能够在现实世界中执行任务的机器人出现。
将会有更多的人能够创建软件和艺术。但世界需要更多的软件和艺术，只要专家们拥抱新工具，他们可能仍然比初学者强得多。总的来说，到2030年一个人能比2020年完成更多的事情，这将是一个显著的变化，许多人将发现如何从中受益。
在最重要的方面，2030年代可能不会发生翻天覆地的变化。人们仍然会爱他们的家人，表达他们的创造力，玩游戏，并在湖中游泳。
但在仍然非常重要的方面，2030年代很可能会与以往任何时候都截然不同。我们不知道人类水平智能之外能走多远，但我们即将找到答案。
在2030年代，智能和能源——思想，以及实现思想的能力——将变得极其丰富。这两个因素长期以来一直是人类进步的基本限制因素；有了丰富的智能和能源（以及良好的治理），理论上我们可以拥有任何其他东西。
我们已经生活在令人难以置信的数字智能之中，经过最初的震惊，我们大多数人已经相当习惯。我们很快就会从惊讶于 AI 能生成一篇写得优美的段落，转变为想知道它何时能生成一篇优美的小说；或者从惊讶于它能做出挽救生命的医学诊断，转变为想知道它何时能开发出治疗方法；或者从惊讶于它能创建一个小型计算机程序，转变为想知道它何时能创建一家全新的公司。这就是奇点的发展方式：奇迹变得常规，然后成为必备条件。
我们已从科学家那里听到，他们现在比使用 AI 之前的生产力提高了两到三倍。高级 AI 有很多有趣之处，但或许没有什么比得上我们能够用它来加速 AI 研究这一事实更为重要。我们或许能够发现新的计算基座、更好的算法，以及谁知道还能发现什么。如果我们能在一年或一个月内完成十年的研究，那么进步的速度显然会截然不同。
从现在开始，我们已经建立的工具将帮助我们发现更多的科学见解，并帮助我们创建更好的 AI 系统。当然，这并不是指 AI 系统能够完全自主地更新自己的代码，但无论如何，这仍然是递归自我改进的幼体版本。
还有其他自我强化的循环在发挥作用。经济价值创造已经启动了一个滚雪球的复合基础设施建设过程，以运行这些越来越强大的 AI 系统。而能够建造其他机器人的机器人（以及在某种程度上，能够建造其他数据中心的数据中心）已经不远了。
如果我们必须用老方法制造第一批一百万个类人机器人，但它们能够操作整个供应链——挖掘和提炼矿物、驾驶卡车、运营工厂等——来制造更多机器人，而这些机器人又能制造更多芯片制造设施、数据中心等，那么进步的速度显然会大不相同。
随着数据中心生产的自动化，智能的成本最终应该会趋近于电力的成本。（人们常常好奇一个 ChatGPT 查询需要多少能量；平均每个查询大约使用 0.34 瓦时，相当于烤箱在超过一秒内使用的电量，或高效灯泡在几分钟内使用的电量。它还大约使用 0.000085 加仑的水；大约是十五分之一茶匙。）
技术进步的速度将持续加速，而且人们将能够适应几乎所有事物。会有非常艰难的部分，比如整个职业类别消失，但另一方面，世界将迅速变得极其富有，我们将能够认真考虑以前从未可能实施的新政策理念。我们可能不会一下子采用新的社会契约，但几十年后回顾时，这些渐进的变化将累积成重大成果。
如果历史是任何指南，我们将发现新的事情要做，新的东西想要，并迅速同化新工具（工业革命后的职业变动就是一个很好的近期例子）。期望会提高，但能力同样会迅速提高，我们都会得到更好的东西。我们将为彼此建造越来越美妙的东西。人类相对于人工智能有一个长期重要且好奇的优势：我们天生关心其他人以及他们的想法和行动，而不太关心机器。
一个千年前的自给自足的农民会看着我们现在许多人所做的事情，说我们的工作是假的，并认为我们只是在玩游戏来娱乐自己，因为我们有足够的食物和难以想象的奢侈品。我希望我们未来千年后看到的工作会觉得它们非常假，但我毫不怀疑它们对从事这些工作的人来说会感觉极其重要和满足。
新奇的成就将层出不穷。即便在今天，也很难想象到2035年我们将会有哪些发现；或许我们会在一年内解决高能物理学问题，然后在下一年开始太空殖民；或者在一年的重大材料科学突破之后，在第二年实现真正的高带宽脑机接口。许多人会选择以几乎相同的方式生活，但至少有些人可能会决定“接入”。
展望未来，这听起来似乎难以理解。但或许亲身经历时会感觉既令人印象深刻又可管理。从相对论的角度看，奇点是一点一点发生的，而融合是缓慢进行的。我们正沿着指数技术进步的长弧攀登；向前看时它总是看似垂直，向后看时则显得平坦，但它是一条平滑的曲线。（回想一下2020年，如果到2025年就接近通用人工智能会是什么情景，与过去五年实际发生的情况相比。）
在巨大的机遇面前，我们也面临着严峻的挑战。我们需要从技术和社会层面解决安全问题，但更重要的是，考虑到经济影响，广泛分配对超级智能的访问权限。前进的最佳路径可能是这样的：
解决对齐问题，即能够稳健地确保 AI 系统能够长期学习并朝着我们共同真正想要的方向行动（社交媒体信息流是 AI 错位的一个例子；驱动这些算法的技术在让你持续滚动和清楚地了解你的短期偏好方面非常出色，但它们是通过利用你大脑中可以覆盖你长期偏好的某种东西来做到这一点的）。
然后要专注于使超级智能变得廉价、普及，并且不过度集中在任何个人、公司或国家。社会具有韧性、创造力，并能快速适应。如果我们能够驾驭人们的集体意志和智慧，那么尽管我们会犯很多错误，有些事情也会出严重问题，但我们会快速学习和适应，并能够利用这项技术获得最大收益和最小风险。在广泛的社会必须决定的界限内给予用户大量自由，这似乎非常重要。世界越早开始讨论这些广泛界限是什么以及我们如何定义集体一致性，就越好。
我们（整个行业，而不仅仅是 OpenAI）正在为世界构建一个大脑。它将高度个性化且易于每个人使用；我们将受限于好想法。长期以来，创业行业的技术人员一直嘲笑“想法先生”；那些有想法并寻找团队来构建的人。现在在我看来，他们似乎即将迎来他们的辉煌时刻。
OpenAI 如今是很多事物，但首先，我们是一家超级智能研究公司。我们面前有大量工作，但面前的大多数道路如今已经照亮，而黑暗区域正迅速消退。我们感到格外感激能够做我们正在做的事情。
能够计量太多的智能已经触手可及。这样说来或许有些疯狂，但如果我们告诉你在2020年我们将达到今天的水平，那可能比我们目前对2030年的预测更加疯狂。
愿我们能够顺利、指数级且无波折地发展至超级智能。