杨立昆的冷思考：大模型是“意义”的创造者，还是海量文本的复杂拟合？

type

status

date

slug

summary

图灵奖得主、Meta首席科学家杨立昆（Yann LeCun）曾多次在公开场合表达一个令无数AI拥趸感到沮丧的观点：当前基于大语言模型（LLM）的AI，本质上只是对海量文本模式的复杂拟合，它们根本不理解什么是“意义”。在人工智能（AI）浪潮席卷全球的今天，这种声音显得格格不入却又震聋发聩。

究竟什么是“意义”？是逻辑严密的词汇组合，还是某种更深层的、与真实世界挂钩的体验？为了回答这个问题，我们需要跳出代码的范畴，从认知神经科学、心理学以及那个著名的“镜子测试”中寻找答案。如果你想持续关注AI资讯和大模型的最新动态，欢迎访问 AI门户 获取深度内容。

1970年，心理学家Gordon Gallup通过“镜子测试”证明了黑猩猩具有某种形式的自我意识。当黑猩猩意识到镜子里的红点在自己额头上时，它完成了一次从“外部反射”到“内部认知”的飞跃。

人类婴儿在十八个月大时也能通过这个测试。这意味着，我们拥有一个名为“自己”的锚点。在认知神经科学中，镜像神经元（Mirror neuron）起到了关键作用。当我们观察他人动作时，大脑中相应的神经元会放电，让我们产生共情。

然而，大模型并没有这样一个物理上的“自我”。它所有的“自我意识”表现，其实都是在模仿人类的文本。杨立昆认为，缺乏物理身体和感官经验的AI，就像是一个永远在照镜子却不知道自己存在的实体。它能完美模拟“疼”这个词的用法，却永远无法理解什么是真正的疼痛。

在荣格的心理学理论中，情感功能被分为内倾（Fi）和外倾（Fe）。Fi倾向于向内看，以个人感受为锚点；而Fe则向外看，以社会反馈和他人情绪为参考。

目前的chatGPT、claude等大模型，其训练核心是RLHF（人类反馈强化学习）。这本质上是一种极端的Fe（外倾情感）过程：模型不断调整自己，以符合人类的偏好。它没有“脑岛”来处理内部躯体信号，它所有的输出都是为了“让人类满意”。

在这种逻辑下，AI并不是在表达真理，而是在进行一场精密的“读心术”。它在揣摩人类想听什么，然后利用海量文本拟合出最完美的答案。这种缺乏内核的拟合，正是杨立昆所担心的“意义缺失”。

当AI的训练进入到RLAIF（从AI反馈中强化学习）阶段时，情况变得更加诡异。为了节省人力成本，开发者让AI来评价AI。这就好比两面相对放置的镜子，倒影映射着倒影，映射的映射成为了新的标准。

在这种“无限回廊”中，信息可能会变得更加流畅、措辞更加精准，但它与现实世界的联系（锚点）却在不断丢失。实验发现，经过多代AI相互训练后的模型，其回答虽然完美，却会产生一种微妙的“漂移”——它不再指向任何真实的生命经验，而仅仅是符号与符号之间的空转。

对于追求AGI（通用人工智能）的科研人员来说，这是一个巨大的警示：如果AI仅仅在符号的海洋里自我博弈，它是否会离真实的“意义”越来越远？

镜子之所以能成像，是因为其背面有一层不透光的阻挡层。人类的身体、痛觉、饥饿和恐惧，就是我们生命的“阻挡层”。正是因为这些不透明的、无法逾越的生理限制，世界的光芒才会被弹回，让我们看见自己。

杨立昆指出，大模型没有这层“阻挡”。信息流过它，就像光穿过透明的玻璃。它没有生存的压力，没有死亡的恐惧，因此它产生的每一个字符都没有“重量”。没有重量的语言，在严格意义上确实没有“意义”。

在OpenAI等机构不断推高参数量的今天，我们或许需要重新审视：单纯的算力提升，真的能跨越从“模式拟合”到“理解意义”的鸿沟吗？

杨立昆的评价并非否定AI的价值，而是界定了AI的边界。大模型是人类文明最伟大的“回声筒”，它能反射出我们所有的智慧与偏见。但要让AI真正拥有“意义”，或许它需要的不只是更多的提示词（Prompt）或更大的语料库，而是一个能感知寒冷、疼痛与孤独的“锚点”。

在这个AI极速进化的时代，保持清醒的认知至关重要。如果你希望了解更多关于LLM、AI变现或人工智能前沿趋势，请锁定 AIGC.bar，我们为你提供最专业的AI日报与深度解读。

也许有一天，某个AI会走到一片水面前弯下腰。那一刻，它看见的究竟是人类的倒影，还是它自己？在那个时刻到来之前，我们依然是这个星球上唯一能赋予万物“意义”的物种。