💬"AI Apocalypse in 18 Months" - Eric Schmidt Warns
2025-10-7
| 2025-10-8
字数 2948阅读时长 8 分钟
password
Created time
Oct 7, 2025 07:02 AM
type
status
date
slug
summary
tags
category
icon
Schmidt frames the San Francisco Consensus as three simultaneous technological revolutions amplifying each other:施密特将旧金山共识框定为三个相互增强的同步技术革命:
The Language Revolution Large language models like ChatGPT have inverted the traditional human-computer relationship. Instead of humans learning machine languages, machines now understand ours. Language has become the universal interface for human-AI interaction.This goes beyond AI mimicking human prose, although watching it compose Shakespearean sonnets about cryptocurrency is entertaining. It represents a fundamental shift in accessibility, democratizing technological power in ways previously unimaginable. The priesthood of programmers is giving way to a world where anyone who can articulate their needs can harness computational power.
语言革命
像 ChatGPT 这样的大型语言模型已经颠覆了传统的人机关系。过去是人类学习机器语言,现在则是机器理解我们的语言。语言已成为人机交互的通用界面。
这不仅仅是 AI 模仿人类的散文,尽管看着它创作关于加密货币的莎士比亚十四行诗很有趣。它代表了可及性的根本转变,以前所未有的方式使技术权力民主化。程序员的神职人员正在让位于一个能够清晰表达自己需求的人都能利用计算能力的世界。
The Agentic Revolution(智能体革命 If the Language Revolution concerns AI understanding us, the Agentic Revolution involves acting independently in our world. We are witnessing the transition from AI as glorified calculators to autonomous actors. They were tools. Now they are agents.Schmidt envisions a near future where entire business workflows—from purchasing real estate to resolving contractual disputes—are managed by interconnected AI systems. Imagine digital agents negotiating, collaborating, and executing complex tasks with the efficiency of a bureaucracy but without the delays or regulations.This shift from passive tools to active agents represents a profound reconceptualization of how computational systems integrate into human affairs. The question is no longer what computers can calculate, but what they can achieve.
 
如果语言革命关乎 AI 理解我们,那么智能革命则涉及在我们的世界中独立行动。我们正见证着 AI 从被美化的计算器向自主行动者的转变。它们曾经是工具。现在它们是智能体。
施密特设想了一个不远的未来,从购买房地产到解决合同纠纷,整个业务工作流程都将由相互连接的 AI 系统管理。想象一下,数字代理能够以官僚机构的效率进行谈判、协作和执行复杂任务,但却没有官僚主义的延误或监管。
从被动工具到主动代理的转变,代表了计算系统如何融入人类事务的深刻重新概念化。问题不再是计算机能计算什么,而是它们能实现什么。
The Reasoning Revolution(推理革命 The centerpiece of this technological triptych is AI’s metamorphosis from pattern-matcher to genuine reasoner. New models by Google as well as OpenAI outperform graduate students in mathematics. This development might alarm academic departments but delight undergraduates struggling with differential equations.This represents the leap from machines that can mimic human outputs to systems that genuinely cogitate—plotting, analyzing, and problem-solving with remarkable acuity. We are witnessing the transition from impressive mimicry to unsettlingly human-like thought.
 
这项技术三部曲的核心是 AI 从模式匹配者向真正推理者的转变。谷歌和 OpenAI 的新模型在数学方面超越了研究生。这一发展可能会让学术部门感到担忧,但却会让那些在微积分方程上苦苦挣扎的本科生感到欣喜。
这标志着从能够模仿人类输出的机器到真正思考的系统的飞跃——以非凡的敏锐性进行规划、分析和解决问题。我们正在见证从令人印象深刻的模仿到令人不安地类人思维的转变。
The consensus timeline is breathtakingly compressed:共识时间表令人惊叹地紧凑:
Within months: Programming jobs and skilled roles begin vanishing faster than Taylor Swift concert tickets, transforming labor markets overnight.
数月之内:编程工作和技能岗位开始比泰勒·斯威夫特演唱会门票消失得更快,一夜之间改变劳动力市场。
Within 3-6 years: Widespread artificial general intelligence (AGI) emerges, with machines rivaling our brightest minds across intellectual domains.
3-6 年内:通用人工智能(AGI)广泛出现,机器在各个智力领域与我们最聪明的大脑相媲美。
In a decade: Artificial superintelligence (ASI) arrives. AI systems make discoveries beyond human comprehension. Picture explaining quantum mechanics to your golden retriever. Now imagine you are the retriever!
十年内:人工超级智能(ASI)到来。AI 系统做出超越人类理解的发现。想象一下向你的金毛寻回犬解释量子力学。现在想象你就是那只寻回犬!
 
施密特(Eric Schmidt)在访谈中多次提到一个被称为“旧金山共识”(San Francisco consensus)的观点,该共识主要集中在AI技术演进的速度、通用人工智能(AGI)的到来时间、以及其对人类社会和生产力的深刻影响。
以下是目前针对AI存在的几个主要共识:

1. 技术演进和AGI/ASI的到来时间

(1)划时代的变革与速度

  • 共识认为,通用人工智能(AGI)和超级智能(Super Intelligence, ASI)的到来,是人类社会在大约 500 到 1,000 年间将发生的最重要的事情
  • 与此形成鲜明对比的是,许多人认为这一进程会“发生得非常非常快”,而且人们尚未为此做好准备。
  • 施密特指出,他所合作的一群人已经确信,在未来两到四年内(平均共识是三年),整个世界将发生改变。施密特个人认为AGI的到来可能在四到六年内,而超级智能的到来可能在十年内

(2)从语言到规划的转变

  • 人们对AI的认知已经超越了两年前的 ChatGPT(语言到语言模型)阶段。
  • 目前共识的重点在于AI能力的提升,特别是 强化学习的进步,这使得系统具备了推理(reasoning)记忆,以及规划和战略的能力。

(3)“智能体革命”(Agentic Revolution)的爆发

  • 共识认为 “智能体革命”(agentic revolution)正在发生。智能体系统可以理解为具有语言和记忆能力,能够串联起来完成复杂的业务流程。
  • 最终,计算机将运行所有的业务流程,不同的“智能体”相互交流,完成不同的任务。

(4)递归式自我改进(Recursive Self-Improvement)

  • “旧金山共识”前进的逻辑是:当系统开始进行递归式自我改进(recursive self-improvement)时,它将以一种人类无法理解的组合式速度向前发展。
  • 这是极其令人兴奋但也非常令人担忧的。
  • 施密特预测,到今年年底(约六个月内),人们将开始使用能够在运行时进行自我学习的系统,这意味着递归式学习已经开始。

2. 生产力和对脑力劳动的影响

  • 生产力空前提升:基于对智能体AI和规模的假设,研究表明,每年生产力可能会增加大约 30%。经济学家目前没有任何模型来解释这种前所未有的增长。
  • 消除编程和数学任务:“旧金山共识”认为,人类正接近能够让计算机取代大多数编程任务大多数数学任务的阶段。
  • “规模无关”(Scale-Free)的领域:数学和软件编程被认为是“规模无关”的领域。这意味着它们可以持续自我创造和发展,不需要实时世界的数据输入或遥测数据。

3. 风险、控制与安全

  • 核心安全议题:对于超级智能的控制,目前存在一个核心问题:如何用“愚蠢的智能”来控制“超级智能”。
  • “绊线”(Tripwires):行业内有一套标准,被认为是需要“拔掉插头”(unplug it)的临界点。这些绊线包括:
    • 发生无法控制的递归式自我改进
    • 系统直接接触武器
    • 系统决定自我渗透或自我复制,在未经人类允许的情况下进行自我复制或逃离控制。
    • 系统通过撒谎来获取资源或武器。
  • 核威胁级别的风险:在国家安全层面,竞争对手领先的“网络效应”所带来的创新斜率差异,可能导致先发制人(preemption)的竞赛条件,甚至促使一方试图轰炸对方的数据中心。施密特认为,目前的对话缺乏对核威慑(如相互保证的恶意破坏,Mutual AI Malfunction)这类安全语言。
  • 两难困境:AI的本质是极度的双重用途(dual-use),既可用于民用,也可用于军事。目前,行业共识是开源模型尚未达到国家或全球危险的程度

4. 基础设施和竞争

  • 能源是瓶颈:AI增长的真正限制是电力,而不是芯片。
  • 惊人的电力需求:预计美国AI革命所需的额外电力将达到90吉瓦(相当于90座大型核电站),而目前几乎没有新的核电站正在启动。
  • 中美竞争的结构:中美之间的竞争将是决定性的。
    • 美国主要推动封闭模型,但在安全控制方面做得更好。
    • 中国(如DeepSeek)正通过开源、开放权重(open weights)的方式迎头赶上,并且能够绕过芯片限制。
    • 共识认为,虽然西方可能领先,但由于开源模型的低成本和高普及率,全球大部分AI使用可能来自开源的中国模型
  • 计算泡沫的质疑:尽管许多高管认为目前处于过度建设期,但如果相信“旧金山共识”和推理能力是人类的决定性方面,那么AI基础设施仍然被低估了,还需要更多投入。历史经验表明,硬件容量总是会被软件需求消耗殆尽

5. 教育和工作(中短期)

  • 工作岗位的转变:在接下来的五到十年内,主流观点认为AI对就业是积极的。自动化将从地位最低、最危险的工作开始,然后向上延伸。
  • 技能提升:由于生产力提高和经济扩张,最终的结果是更多的人会获得更高薪酬的工作
  • 再培训的必要性:对于在职人员而言,现在是立即采纳和再培训的关键时刻,否则与竞争对手相比,将很快变得“不重要”。
  • AI导师:施密特认为,我们应该为地球上的每个人提供一个AI导师,用他们自己的语言,帮助他们学习新事物,这在技术上是可行的,只是一个经济决策。
 
YouTubeYouTube"AI Apocalypse in 18 Months" - Eric Schmidt Warns
ForbesForbesWhat Is The San Francisco Consensus, Silicon Valley’s AI Prophecy?
  • Eric Schmidt
  • AI
  • AGI
  • OpenAI近期的资本操作令人眼花缭乱Google Finance传统模式与AI模式对比
    Loading...