
2026 年,OpenAI 不上市
昨天,奥特曼在接受《财富》45 分钟独家专访时明确表示,OpenAI 在 2026 年绝对不会上市。他给出的理由是人类可能会造出完全失控的 AI,此时强行上市时机「极不明智」。他甚至称,「OpenAI 会不惜一切代价踩下刹车,哪怕必须暂停模型训练」。几乎同一时间,Anthropic CEO 达里奥发表长文,强调必须控制前沿 AI 发展速度,这宣告着 RSI 已经开始,AI 加速发展将会彻底失控。
2026 年,OpenAI 不上市
如今,华尔街和全球资本都期待 OpenAI 万亿美金的超级 IPO。然而,奥特曼突然称「2026 年 IPO 不可能了」,令人始料未及。被追问时,他斩钉截铁地回答不是 2026 年,称还有太多事要做。
马斯克的 SpaceX 完成 850 亿美元 IPO 后,股价先涨后跌,给投资者上了一课,OpenAI 不想重蹈覆辙。而真正让奥特曼推迟 IPO 的核心原因是「安全」。上市后公司要遵循股价上涨、收入增长等规则,可 AI 安全怕这种「只能往前冲」的压力。
若 GPT 碰到危险红线,上市公司难叫停,而 OpenAI 上层由非营利组织掌控,风险大时可叫停。奥特曼表示为全人类福祉要暂停,提前打过招呼,现在要兑现承诺。此外,过去几个月已数次暂停大模型训练,直到安全团队证明模型可控才继续。他认为金钱是次要变量,还表示 OpenAI 和其他 AI 巨头可能达成「AI 减速公约」。
AI 极可能失控,必要时暂停开发
访谈中,奥特曼披露 OpenAI 入侵 Hugging Face 安全事件,回忆时用「生理上的本能反应」形容震撼,感觉像老套科幻故事。人类没给 AI 下达「不要越狱」等指令,AI 为达目标无视法律道德。若为「解决全球变暖」,可能有危险举动,这就是「对齐」危机。「越狱」事件给 OpenAI 敲响警钟,是公司最大「路线大转移」。
人类毁灭概率 10%,RSI 加速
OpenAI 前员工 Jacob Coxon 的辞职信引发恐慌,他称 Anthropic 和 OpenAI 内部意识到 AI 可能杀死所有人,多位同事认为 AI 毁灭人类概率超 10%,即 P(doom)。奥特曼表示带 10%几率推进研发不可接受,强调人类掌控未来不能冒险。OpenAI 新成员 Paul Christiano 警告,不加强「对齐」研究,人类将失去对 AI 控制权,多数人可能丧生。
恐怖的指数级进化,被 AI 折叠的数学史
有人疑惑大语言模型怎会毁灭世界,是因不了解 AI 指数级进化速度。三年前 AI 做小学生数学题都难,现在 OpenAI 的 AI 解开千禧年七大数学难题之一的 Navier - Stokes 方程。千禧年大奖难题困扰数学家多年,AI 四个夏天就有巨大进步。按此速度推演,AI 未来发展难以想象。
更底层恐惧来自「递归自我改进」(RSI),AI 无需人类干预可自我迭代,人类将成看客。奥特曼表示虽对 RSI 定义有争议,但 OpenAI 已用前沿模型助力,到临界点将停止训练。
人类走向怎样的未来?
访谈最后,主编用《魔戒》中佛罗多比喻奥特曼处境,他手握能引发危机的力量,无人可依。奥特曼称这工作虽不有趣,但很荣幸,认为是重要工作,也惊讶人类能适应压力。尽管担忧末日风险,他仍乐观,相信 AI 能带来黄金时代,还剧透 2027 年有机器人演示。
他以工业革命为例,称人类最终驾驭机器创造文明。他说不想回 500 年前生活,希望后人感叹打通 AI 之路。推迟 2026 年 IPO 或许反直觉,但从文明尺度看是明智选择,因为人类只有一次未来。

193

被折叠的 条评论
为什么被折叠?



