Karpathy重注AI初创Engram，大模型永久记忆时代来临

type

status

date

slug

summary

告别“天才陌生人”：大模型记忆痛点解析

今天的LLM（大型语言模型），无论是chatGPT、claude还是openai旗下的其他先进模型，都面临着一个极其尴尬的困境：它们是智商爆表的“天才”，同时也是记性极差的“陌生人”。

在实际的业务场景中，这些大模型能够凭借复杂的提示词（Prompt）生成令人惊叹的内容，甚至解决高难度的代码和逻辑问题。然而，一旦开启新的对话，它们就会将之前的背景知识忘得一干二净。这种“失忆症”导致了一个荒谬的循环：用户不得不一遍又一遍地向AI重复相同的业务背景，AI也必须一次次重新阅读相同的文档。

随着上下文窗口的不断扩大，这种重复加载不仅让模型响应变慢、更容易产生幻觉，更是极其烧钱的。对于那些致力于AI变现和企业级应用落地的团队来说，这种缺乏长期记忆的智能，不仅笨拙，而且成本高昂。

暴力美学与技术创新：Cartridges技术揭秘

面对这一痛点，Engram并没有选择与其他实验室一样去“卷”更大的模型参数，而是另辟蹊径，将算力死死砸在“上下文”和“记忆”上。其背后的核心王牌，是CTO Sabri Eyuboglu主导的Cartridges技术。

当传统的大模型阅读一份400KB的法律合同时，其内部生成的记忆体积可能会瞬间暴涨到100GB以上，膨胀了25万倍。这就是AI变得又慢又贵的罪魁祸首。而Cartridges技术采用了一种堪称“暴力美学”的解决思路：

与其每次临时把整篇文档塞进上下文窗口，不如提前花一大笔算力，在离线状态下把文档“学”成一个小小的记忆模块。Engram团队将这个过程称为“self-study”（自学）。他们让模型先围绕语料自己生成大量的合成对话，随后将这些学习痕迹蒸馏进一个极其紧凑的缓存中。

最终的结果是惊人的：内存占用降到了原来的约四十分之一，而解码吞吐量则飙升了25倍以上。更具颠覆性的是Engram的架构哲学——将模型的“推理层”与“记忆层”彻底剥离。推理负责思考和逻辑，而记忆层则专门负责“认得你”。这种解耦使得AI能够在极短的时间内实时吸收个人偏好和新数据，彻底告别了每次都需要从头重训的噩梦。

斯坦福全明星阵容：13人团队撑起6亿美金估值

Engram之所以能够获得Karpathy等顶尖投资人的青睐，与其背后的全明星团队密不可分。这家孵化于斯坦福AI实验室的初创公司，虽然只有13名员工，但成员均来自斯坦福、伯克利、康奈尔等顶尖学府。

CEO Dan Biderman曾在哥伦比亚大学获得计算神经科学博士学位，随后在斯坦福AI实验室担任博士后。他创立Engram的初衷充满了人文关怀：小时候，他总是想方设法帮助患有失忆症的祖母重新记起家人。这种对“记忆”的痴迷，最终演化成了赋予AI永久记忆的宏大愿景。

值得一提的是，团队中的许多成员都是拒绝了Anthropic和谷歌等科技巨头的丰厚待遇，毅然决然地加入了这家初创公司。在如今人工智能领域抢人抢到“刺刀见红”的背景下，这支精悍团队的战斗力和技术底蕴不容小觑。

AI范式的新转向：从Scaling Law到持续生长

Engram的出现，不仅仅是提供了一个新的技术工具，更是押注了AI范式的下一次重大转向。

过去几年，整个行业都在狂热地信仰“Scaling Law”：模型越大、喂给的数据越多，AI就越聪明。但Engram提出了一条全新的Scaling轴：将庞大的算力投入到“学习和内化个人数据”上。

这意味着，AI的学习对象不再仅仅是公开的互联网海量数据，而是变成了具体的“你”和“真实世界”。学习的频率也从按月、按天更新，逼近到了每一刻的实时内化。模型会随着你的使用，变得越来越懂你，越来越符合你的个性化需求。

让智能不再静止于预训练完成的那一刻，而是能够像人类一样持续生长、积累经验，这正是通往AGI道路上最关键的拼图之一。记忆，恰恰是智能开始真正理解这个世界的起点。

结语：记忆重塑AI的未来

Engram用13个人的团队和创新的Cartridges技术，向全行业证明了：未来的大模型不仅需要强大的推理能力，更需要一个永不褪色的记忆中枢。Karpathy的重注，无疑为这条赛道注入了一剂强心针。

随着AI记忆技术的不断成熟，我们有望在不久的将来，看到真正能够陪伴人类成长、深刻理解业务逻辑的“数字伙伴”。如果您想持续追踪Engram的最新进展，获取最前沿的AI资讯、提示词技巧以及大模型深度解析，欢迎随时访问专业的AI门户网站 AIGC Bar，与我们一起见证人工智能的持续进化。