翁荔新作解读:Harness工程如何驱动大模型自我提升与AGI进化
type
status
date
slug
summary
tags
category
icon
password
网址
在AI研究的最前沿,当大模型(LLM)本身的原始智能已经足够强大时,决定它能走多远的,或许不再仅仅是参数量的堆叠,而是包裹在模型外面的那层系统——Harness(脚手架/外壳系统)。近日,知名AI研究员翁荔(Lilian Weng)在断更许久后再次撰文,深入探讨了通过Harness工程实现AI自我提升的路径。这一观点迅速在人工智能社区引发了广泛讨论,成为近期备受瞩目的AI新闻。
对于关注AGI(通用人工智能)发展和AI变现的开发者而言,理解Harness工程不仅是跟进前沿AI资讯的关键,更是构建下一代智能体(Agent)的必修课。想要获取更多大模型与AI日报动态,欢迎访问 AI门户。
什么是Harness工程:大模型的“操作系统”
在传统的AI应用开发中,开发者往往依赖于简单的提示词(Prompt)和提示词工程来引导大模型输出。然而,随着任务复杂度的提升,这种静态的交互方式已无法满足需求。Harness工程正是为了解决这一痛点而生。
简单来说,Harness是介于原始大模型与真实世界场景之间的系统层。它负责编排模型的思考与规划、调用外部工具、管理上下文状态、存储中间产物,并对最终的执行结果进行评估。如果把预训练结束后的LLM比作一个拥有超强算力但缺乏社会经验的“大脑”,那么Harness就是赋予它行动力、记忆力和自我纠错能力的“身体”与“工具箱”。
在当前的AI技术演进中,Harness的设计已经不再局限于简单的模板,而是更接近于底层的软件系统设计。就像操作系统管理硬件资源一样,Harness应当把复杂的逻辑(如工具调用、并发处理)封装起来,向模型提供简洁的接口,从而让AI能够专注于逻辑推理本身。
Harness的核心设计模式
翁荔在文中系统梳理了当前主流智能体(如openai的chatGPT、claude等编程智能体)在实践中沉淀出的三种核心Harness设计模式:
- 工作流自动化(Workflow Automation):设计一个闭环的工作流,让模型在其中运行、测试并迭代。这种工作流遵循“规划-执行-观察/测试-改进”的循环。在这个过程中,智能体运行时(Agent Runtime)会分析自己的执行轨迹,而不是单纯依赖静态的提示词。
- 将文件系统作为持久化记忆:在长时程任务中,如果将所有的实验日志、代码修改(diff)和中间产物都塞进上下文窗口,很快就会导致上下文失控。优秀的Harness设计会引导模型通过bash命令读写本地文件系统,将文件作为持久化记忆。这不仅降低了上下文开销,还天然地随着模型代码理解能力的提升而变得更加高效。
- 子智能体与后台任务:主智能体可以派生出多个子智能体来并行执行任务,并通过一个微型的“进程管理器”来监控后台任务。这种设计让并行性变得显式且可追溯,模型可以在中断后恢复状态,并对执行历史进行推理。
Harness优化:从上下文工程到元优化
如何优化这套脚手架系统?AI研究者们正在经历从“优化提示词”到“优化代码与算法”的范式转变。
首先是上下文工程(Context Engineering)。智能体上下文工程(ACE)将上下文视为一本动态更新的“运行手册”(Playbook),通过生成器、反思器和策展器三个组件,以条目化的方式增量更新结构化上下文,避免了长上下文带来的信息坍缩。在此基础上,元上下文工程(MCE)进一步将“机制”与“内容”剥离,让技能在元层面演化,而具体上下文在基础层面优化。
更进一步的探索是Meta-Harness,即“用于优化Harness的Harness”。它将Harness的逻辑完全代码化,由一个编程智能体在文件系统中迭代生成、测试并筛选出最优的Harness候选方案。当Harness的设计空间变成了可执行的代码搜索空间,大模型的自我提升就拥有了无限可能。
此外,在工作流设计上,诸如AI Scientist等系统构建了从想法提出、代码编写到论文撰写的全自动流水线;而ADAS(智能体系统自动化设计)和AFlow则利用蒙特卡洛树搜索(MCTS)等算法,实现了智能体工作流的自动搜索与优化。
递归式自我提升(RSI)的未来
递归式自我提升(RSI)是通往AGI的终极梦想。然而,未来的RSI究竟会先发生在模型权重层面(即模型自己修改自己的参数),还是先发生在Harness这层“脚手架”上?
翁荔给出了一个切实可行的预测:在短期内,RSI更可能通过Harness工程来实现。模型通过优化外部的上下文管理、工作流代码和工具接口,实现系统整体性能的提升。随着时间推移,许多在Harness层面验证有效的模式和行为,会被内化(蒸馏)到大模型的核心权重中,但人机接口与外部工具的连接器将长期存在。
当然,当前的自我提升系统依然面临诸多诚实的挑战,包括评估标准模糊、负面结果被系统性忽视、多样性坍缩以及奖励作弊(Reward Hacking)等。攻克这些难题,将是下一阶段AI研究的重中之重。
总结与展望
Harness工程的兴起,标志着大模型应用开发正式进入了“系统级工程”时代。无论是开发智能体应用的工程师,还是关注行业趋势的AI从业者,都应当意识到:决定AI上限的不仅是算法模型本身,更是我们为其搭建的这套协同演化系统。
获取最前沿的AI资讯、大模型技术深度解析及AI日报,请持续关注 AI门户,与我们一同见证人工智能迈向通用智能(AGI)的每一步。
Loading...
.png?table=collection&id=cbe6506e-1263-8358-a4d7-07ce62fcbb3f&t=cbe6506e-1263-8358-a4d7-07ce62fcbb3f)