NotionNext - null

OpenAI前研究员惊人观点：互联网才是AGI的终极答案 | AI资讯

type
status
date
slug
summary
tags
category
icon
password
网址
「停止研究强化学习（RL）吧，将精力投入到产品开发中。真正推动人工智能大规模发展的关键技术，是互联网。」
这番颠覆性的言论，出自前 OpenAI 研究员 Kevin Lu 的最新博客。当一位曾在 OpenAI 专攻 RL 的研究者公开“劝退”RL 时，整个 AI 圈都为之震动。他直言，我们可能高估了 Transformer 等模型架构的革命性，而严重低估了互联网作为数据源的根本价值。
这不仅是对当前 LLM 研究方向的深刻反思，更可能预示着通往 AGI 道路上的一次重大范式转移。今天，我们就来深入解读这一观点，探讨为何互联网才是让大模型持续进步的真正关键。更多前沿的AI新闻和深度分析，欢迎访问AI门户网站 https://aigc.bar 获取。

从架构崇拜到数据为王：范式已然转变

曾几何时，AI 的发展史似乎就是一部模型架构的创新史，从 AlexNet 到 Transformer，每一次架构的突破都带来了性能的飞跃。这让许多研究者陷入了对“下一个更优架构”的执着追求中。
然而，Kevin Lu 指出，我们已经从一个算力受限（Compute-bound）的时代，进入了一个数据受限（Data-bound）的时代。
  • 算力受限时代：核心瓶颈是如何将数据更高效地“喂”给模型。更优的算法和架构能带来显著的性能提升。
  • 数据受限时代：瓶颈转变为高质量、大规模数据的获取。自 GPT-4 以来，尽管出现了像 Mamba 这样理论上更优的架构，但基础模型的能力并未出现质的飞跃。原因在于，只要有足够多、足够好的数据，即便是 Transformer 这样的“旧”架构，其性能上限依然高得惊人。
这意味着，单纯在模型结构上“精雕细琢”，或是像过去十年研究 RL 那样在算法上“内卷”，可能已经无法带来根本性的突破。真正的金矿，在于数据本身。

为什么是互联网？Next-Token预测的完美“对偶”

如果说大模型是饥饿的巨兽，那么互联网就是它最完美的“粮仓”。Kevin Lu 认为，互联网与当前主流的next-token prediction（下一个词元预测）学习范式是天作之合，是一种深刻的“对偶”关系。互联网之所以如此重要，源于其几个无可替代的特性：
  1. 行星级的海量与多样性：互联网是一个去中心化的、由全球数十亿人共同构建的知识库。它包含了无数种文化、视角、语言和专业知识。这种多样性让模型能够学习到一个包罗万象的世界模型，而不是一个由少数专家构建的、带有偏见的“教科书”模型。Phi 系列模型虽然在特定任务上表现出色，但其世界知识的广度和深度远不及在互联网上训练的同类模型，这正是数据广度的重要性体现。
  1. 浑然天成的学习课程：互联网上的知识本身就构成了一条从易到难的天然学习路径。从儿童科普视频，到大学公开课，再到最前沿的科研论文，模型可以循序渐进地学习，掌握从基础到高深的各种能力。这避免了手动构建数据集时需要不断策划“下一课”的巨大工作量，提供了一条平滑、高效的学习曲线。
  1. 强大的产品市场契合度（PMF）：人们是真心实意地想要使用互联网。无论是为了获取信息、社交娱乐还是分享创造，用户都在持续不断地贡献着新鲜、真实、反映其真实需求的数据。这解决了“研究者认为什么重要”和“用户实际需要什么”之间的脱节。决定模型应该学习何种有用技能的，是千千万万的互联网用户，而不是实验室里的少数人。
  1. 无与伦比的经济可行性：互联网之所以能实现全球普及，一个关键原因是其使用成本足够低廉。这使得大规模的数据贡献成为可能。任何需要高昂成本的数据收集方式，都无法在规模上与互联网相匹敌。
这些特性共同构成了ChatGPT、Claude等顶尖LLM赖以生存和进化的土壤。可以说，没有互联网，就没有我们今天看到的人工智能革命。

RL的困境：寻找下一个“互联网”

与 next-token 预测找到了互联网这个完美数据源不同，强化学习（RL）正面临着“无米下锅”的窘境。尽管许多人认为 RL 是通往超人智能的必要条件，但它缺乏一个像互联网一样通用的、可大规模扩展的数据来源。
  • 人类偏好（RLHF）：数据收集成本高、充满噪声，且不同人的偏好难以统一。过度优化用户参与度，未必能导向真正的智能。
  • 可验证奖励（RLVR）：仅限于数学、编程等有明确对错的狭窄领域，泛化能力差，难以应用于开放、模糊的现实世界任务。
  • 机器人学与推荐系统：前者面临高昂的硬件成本、模拟与现实的差距等诸多挑战；后者则容易陷入狭窄领域或面临严重的奖励噪声问题。
RL 的核心优势在于能消费“奖励”这种新形式的数据，但我们至今没有找到一个能与互联网媲美的、可以为 RL 提供海量、高质量、多样化奖励信号的“产品”或“环境”。这正是 Kevin Lu “劝退” RL 研究的根本原因——在找到那个“对偶物”之前，再多的算法优化也可能是徒劳。

对开发者的启示：关注产品，拥抱数据

Kevin Lu 的观点为所有 AI 从业者带来了深刻的启示：
与其在算法的象牙塔里苦思冥想，不如将目光投向更广阔的“产品”世界。这里的“产品”不仅指具体的 AI 应用，更指代那些能够持续产生有价值数据的生态系统，而互联网是其中最成功的典范。
对于开发者和创业者而言，这意味着： * 构建数据飞轮：思考如何设计你的产品，让用户在使用过程中自然而然地贡献高质量数据，形成一个正向循环。 * 理解用户意图：深入分析数据背后的用户需求和行为模式。一个好的提示词（Prompt）之所以有效，正是因为它精准地契合了模型的知识结构和用户的真实意图。 * 探索AI变现新模式：成功的AI变现往往建立在对数据价值的深刻理解之上，无论是通过提供更智能的服务，还是通过数据洞察创造新价值。
总而言之，AGI 的未来可能不是一个纯粹的算法问题，而是一个算法与数据生态协同进化的问题。
结论
Kevin Lu 的文章如同一声警钟，提醒我们重新审视人工智能发展的核心驱动力。模型架构、算法优化固然重要，但它们都只是消费数据的工具。真正的瓶颈和机遇，在于数据本身。
互联网，这个人类集体智慧的庞大、混乱而又充满活力的载体，为 next-token 预测提供了近乎无限的燃料。而强化学习的未来，则取决于我们能否为它找到或创造出下一个“互联网”。对于每一个关注AI未来的人来说，理解数据、拥抱互联网，将比以往任何时候都更加重要。想要获取最新的AI日报和行业动态，请持续关注 https://aigc.bar。
Loading...

没有找到文章