Transformer作者预言：AI无寒冬，推理革命开启万亿新纪元

type

status

date

slug

summary

万亿美元的AI路线之争：LLM是死胡同还是康庄大道？

当前，AI领域存在一场价值万亿美元的观念之争。以OpenAI为代表的一方坚信，通过不断扩大模型规模（Scaling），即“LLM+海量数据+GPU+能源”，就能最终通往AGI。这种“AGI狂热”席卷了硅谷，甚至有人为AGI的诞生定下了具体日期。

然而，并非所有人都认同这条路径。包括强化学习之父Richard Sutton、图灵奖得主Yann LeCun在内的顶尖学者认为，单纯依赖语言模型预测下一个词的范式已经走入死胡同，其改进能力存在一个远比想象中更近的极限。Keras之父François Chollet更是发起了百万美元的ARC Prize，旨在引导研究者重回他认为的“正确道路”。

面对“LLM死胡同”论，Łukasz Kaiser提出了明确反驳。他指出，这种观点可能忽略了推理模型（Reasoning Models）带来的根本性突破。与传统大模型相比，推理模型所需训练数据量减少了几个数量级，却能解决更复杂的问题。瓶颈不在于模型本身，而在于支撑其运行的算力与能源。这正是OpenAI CEO奥特曼疯狂融资数万亿美元，试图解决的根本性制约。

推理革命：从“能聊”到“能干”的范式转移

你可能从未直接体验过真正的推理模型，但它正在重塑AI的能力边界。与GPT-4这类纯粹的自回归模型不同，推理模型具备了全新的能力：

自我反思与纠错：能够发现并修正自己思维链中的错误。

深度思考：面对复杂问题时，能动态分配更多计算资源进行深入分析。

调用外部工具：在推理过程中主动使用计算器、搜索引擎等工具。

多路径择优：生成多个解决方案，并自主筛选出最佳答案。

这种模型不再急于给出答案，而是像人类一样，先在“脑中打草稿”——进行推理、检索、调用工具，然后再输出结果。Łukasz Kaiser将其形容为“从对话生成器到真正思考者的转变”。这意味着AI不再仅仅是陪你聊天的伙伴，而是能真正“搞定一件事”的得力助手，无论是撰写一份完整的报告，还是排查一段复杂的代码。

编程领域的进步就是最佳例证。一年前，AI在SWE-Bench基准测试中的通过率仅为30%，而如今已飙升至75%。曾经的辅助工具，现在已经能够独立处理大型代码库，发现漏洞和安全威胁。这种指数级的进步，正是推理革命威力的体现。

AI无寒冬：新范式下的指数级增长

对于“AI寒冬”的担忧，Łukasz Kaiser表现得相当乐观。他认为，预测下一个词的“旧范式”确实因数据耗尽而趋于瓶颈，但推理模型的“新范式”才刚刚开始。

他将当前的推理模型比作早期的RNN（循环神经网络），思考过程还是一步一步的线性模式。未来的发展方向将是“多线并行思考”，即同时运行多个思维链，让它们相互“讨论”并整合出最优解，这正是GPT-5 Pro等前沿模型正在探索的方向。

更重要的是，AI正在解锁“从任意数据中学习”的能力。传统训练依赖于明确标注的“对/错”数据，但这不符合真实世界的学习方式。未来的AI将能像人类阅读书籍一样，直接从非结构化的文本、音频甚至视频中吸收知识，理解世界。

文字：让模型掌握抽象世界的逻辑与思维。

视频：让模型理解物理世界的物体、空间和因果规律。

当AI模型不仅能理解语言的抽象，还能通过视频数据掌握物理世界的常识时，“机器人拥有大脑”将不再是科幻。这不仅能解决AI在现实世界中“笨拙”的难题，更是实现通用机器人、引爆万亿市场的关键一步。

结论：准备迎接翻天覆地的变化

Łukasz Kaiser的观点为我们描绘了一幅清晰的未来图景：AI的发展非但不会停滞，反而可能在未来一两年内迎来更加猛烈的加速期。推理革命不是一个微小的迭代，而是一次深刻的范式转移，它将AI的能力从“信息处理”提升到了“问题解决”的全新高度。

这场革命的核心驱动力是算力和能源，而其最终目标是构建出既能理解抽象概念又能与物理世界交互的强大智能体。我们正站在一个新时代的开端，与其争论AGI的定义，不如关注推理模型带来的实际变革，并为即将到来的、由AI驱动的翻天覆地的世界做好准备。想要紧跟AI发展的最新脉搏，探索更多关于LLM、大模型和人工智能的前沿资讯，欢迎访问AI门户网站 https://aigc.bar。