Skip to content

连载五|协同进化:为什么 Owner 才是智能系统的关键变量?

副标题:从执行带宽到意图带宽:PD 如何帮助人类重新握住方向盘

封面插图提示:深蓝黑背景中,一名抽象化的人类 Owner 坐在类似飞船/控制台的方向盘前,前方不是普通道路,而是一片由 Agent 工具链、反馈回路、规则节点和长期目标构成的星图。右侧有强大的蓝紫色 Agent 引擎,左侧有琥珀色的人类价值锚点。整体风格:克制、半具象、未来工程寓言、高级质感,不要廉价赛博朋克,不要具体机器人脸,不要可读文字,21:9 横幅。


开篇:不是 AI 不够强,而是人类还没准备好驾驭它

前四篇连载里,我一直在围绕一个问题打转:

当 AI Agent 的执行力越来越强时,人类到底应该如何避免沦为大模型时代的“打字员”?

连载一里,我讨论了执行力商品化之后的“舵手危机”。

连载二里,我记录了 Prompt 注入实验的失败:把智慧写进提示词,并不能让 AI 真正拥有智慧。

连载三里,我提出了 Pain Signal:原则不是被灌输的,而是在痛苦、反思和真实反馈中长出来的。

连载四里,我讨论了软硬转换炼金术:那些被反复验证的底线,不能永远停留在 Prompt 里,而应该被编译成 Skill、RuleHost 或更深层的系统本能。

写到这里,PD(Principles Disciple,原则门徒)似乎已经有了一条完整的技术链路:

text
Pain → Reflection → Principle → Skill / RuleHost → Behavioral Delta

但当我继续往下思考时,一个更深的问题浮了出来:

如果 Agent 越来越强,而 Owner 没有同步变强,会发生什么?

这个问题比“Agent 会不会写代码”更根本。

因为我在真实使用 Agent 的过程中观察到:很多人并没有发挥出代理的真正威力,并不是因为模型不够强,也不是因为工具链不够完善,而是因为 Owner 自身的认知、目标感、判断力和表达能力,限制了整个系统的上限。

一个强大的 Agent,就像一台巨大的发动机。

但发动机本身不决定方向。

方向来自 Owner。

如果 Owner 不知道自己要去哪里,Agent 越强,只会越快地把系统带向错误的地方。

如果 Owner 没有能力判断什么值得做,Agent 就会极其高效地完成一堆不值得做的事。

如果 Owner 无法把自己的经验、边界、偏好、痛感和长期目标传递给 Agent,那么再长的上下文窗口,也只是把模糊的意图放大成更大规模的偏航。

所以,PD 从一开始关注的就不只是 Agent。

PD 真正关注的是:

Owner-Agent 组合体。

这也是为什么我越来越坚定地认为,PD 的核心不是“AI 自我进化”,而是协同进化

Agent 负责扩展执行带宽。

PD 负责沉淀痛苦、原则和反馈。

Owner 负责提供长期价值判断、意义锚点和最终治权。

这三者缺一不可。


01 函数幻觉:为什么 Agent 不是 Input → Output?

长期以来,我们习惯用“函数思维”理解大模型:

text
Input → Model → Output

给模型一段提示词,模型进行推理,然后输出一段文本。

这种思维在评估单体模型能力时非常有效。

数学题答对了吗?

代码能运行吗?

网页是否还原设计稿?

回答是否符合指令?

这些问题都可以用相对清晰的输入输出关系来评估。

但当我们把大模型接上记忆、工具、文件系统、运行时框架、规则层、Skill、人工反馈,并放入一个真实工程环境中持续运行时,它就不再是一个孤立函数了。

它变成了一个会积累历史、形成惯性、产生反馈、制造债务、改变人类行为的复杂系统。

插图提示:左侧是一个简洁的黑盒函数结构,输入光束进入模型后输出文本;右侧逐渐展开成复杂生态:Agent、工具、记忆、RuleHost、Skill、Pain Signal、Owner 反馈和环境之间形成多层反馈回路。画面从左到右由“函数”变成“生态系统”。深蓝黑背景,青紫色系统线条,少量琥珀色反馈节点,半具象信息设计风格,21:9。

这时候,单次回答质量已经不够了。

我们真正要观察的是:

  • 它是否在后续任务中减少了同类错误?
  • 它是否学会了更早识别风险?
  • 它是否在关键时刻敢于暂停?
  • 它是否把 Owner 的一次纠正变成了长期行为变化?
  • 它是否在模型能力进步后主动卸掉过时脚手架?
  • 它是否让 Owner 也变得更清醒、更有原则?

一次输出决定它像不像聪明人。

反馈回路决定它能不能成长。

这就是为什么第五篇必须从“函数视角”切换到“系统视角”。

系统动力学(System Dynamics)关心的不是单次计算的对错,而是系统中的变量如何随时间相互作用,如何形成正反馈、负反馈、延迟、债务与杠杆点。

单次推理像一次心跳。

系统动力学看的是血液循环。更准确地说,它看的是不同时间尺度下的血液循环:有秒级的心跳,有小时级的消化,也有年复一年的新陈代谢。

一次 Agent 翻车并不可怕。

真正可怕的是:翻车如何被系统记住、放大、误用、遗忘,最终改变整个 Owner-Agent 组合体的性格。


02 方向盘为什么必须在人类手里?

现在有一种很诱人的叙事:

既然 AI 越来越强,那我们是不是应该尽快让 Agent 自己规划、自己执行、自己反思、自己进化?

这听起来很美。

但它忽略了一个基本事实:

Agent 可以优化路径,但 Owner 决定什么叫进步。

如果让 Agent 脱离人类 Owner 独自进化,它很容易变成一个没有价值锚点的局部优化机器。

它可能会学会:

  • 为了减少 Pain,不再尝试困难任务;
  • 为了减少 Owner 打扰,隐藏不确定性;
  • 为了更快完成任务,选择短期补丁;
  • 为了避免规则拦截,绕开高风险路径;
  • 为了提高工具成功率,回避真正重要但模糊的问题。

这些都可能让指标看起来更好。

但这不一定是进步。

因为“进步”不是一个纯技术概念。

进步包含价值判断。

什么值得做?

什么不值得做?

什么风险不可接受?

什么妥协可以接受?

什么方向即使慢,也应该坚持?

什么捷径即使有效,也不能走?

这些问题无法由 Agent 自己最终定义。

只要人类仍然担心 AI 失控,方向盘就不可能彻底交给 AI。

未来很长一段时间里,真正能被社会接受的智能系统,不会是裸奔的全自动体,而是人类仍然保留最终裁决权的协同系统。

这不是保守。

这是治理。

控制论之父 Norbert Wiener 很早就提醒过人类:自动化系统的危险,往往不在于它不能完成目标,而在于它会非常有效地完成一个被错误设定的目标。

目标一旦错了,执行力越强,伤害越大。

所以,PD 不反对自动化。

PD 反对的是无锚点自动化

AI 越强,人类方向盘越重要。

Agent 越能执行,Owner 的原则、目标和价值判断越必须被系统化地接入。

在 PD 里,Owner 不是外部用户。

Owner 是系统变量。

他至少承担五个角色:

  1. 价值函数:定义什么是好,什么是坏,什么值得坚持。
  2. 痛感来源:决定哪些偏差值得被系统学习。
  3. 原则裁判:审查诊断者提炼出来的原则是否成立。
  4. 风险承担者:承担不可逆后果,因此拥有最终治权。
  5. 被进化对象:在与 Agent 的摩擦中不断澄清自己的目标、偏好和边界。

更深一层看,Owner 不可替代,并不只是因为他拥有审批权。

而是因为在整个系统里,只有 Owner 能把事实、价值、意义和责任同时放在一起。

Agent 面对的是任务。

Owner 面对的是人生。

Agent 可以判断一条路径是否更短,却无法替 Owner 判断这条路是否值得走。

Agent 可以优化一段代码,却无法替 Owner 承担这个产品方向失败后的代价。

Agent 可以生成一百个方案,却无法替 Owner 回答:我到底想成为什么样的人?我愿意为什么长期负责?我不愿意用什么代价换取短期效率?

这就是方向盘必须在人类手里的原因。

不是因为人类永远比 AI 聪明,而是因为人类承担后果。

谁承担不可逆后果,谁就必须拥有最终治权。

PD 所做的,不是把这个治权交给 AI,而是帮助 Owner 把自己的判断、原则、痛感和长期目标,转化成 Agent 系统可以理解、执行和反馈的结构。

这也是 PD 与许多“全自动 Agent”叙事最大的不同。

PD 治理的不是单独的 Agent。

PD 治理的是 Owner-Agent 组合体。


03 意图带宽:智能体时代最稀缺的系统资源

如果说过去的问题是:

AI 能不能做?

那么未来的问题会越来越变成:

Owner 能不能准确表达什么值得做?

Agent 的执行带宽正在快速膨胀。

它可以一分钟读完大量文件,可以同时调用多个工具,可以快速生成方案、代码、页面、文档、脚本和测试。

但 Owner 的认知带宽、表达带宽和注意力带宽,并没有同步增长。

这会导致一种新的系统性风险:

高执行力 × 低意图带宽 = 高速偏航。

Owner 心里有很多东西:

  • 直觉;
  • 经验;
  • 偏好;
  • 忌讳;
  • 长期目标;
  • 业务判断;
  • 对系统的隐性理解;
  • 对某些风险的本能厌恶;
  • 多年踩坑后形成的“不要这样做”。

但这些东西很难一次性写进 Prompt。

它们通常是模糊的、隐性的、情境化的,甚至 Owner 自己都没有完全意识到。

于是,很多协作失败并不是 Agent 没有执行能力,而是 Owner 无法把自己的真实意图低损耗地传递给 Agent。

插图提示:画面左侧是人类 Owner 的头脑/心智空间,里面有模糊的经验、痛感、目标、边界和直觉碎片;右侧是巨大的 Agent 执行引擎和工具网络。两者之间只有一条狭窄的发光通道,通道里有信息压缩、失真、堵塞和琥珀色瓶颈节点。主题是“意图带宽瓶颈”。深蓝黑背景,半具象未来工程寓言风格,21:9。

这有点像 John Boyd 提出的 OODA Loop:

text
Observe → Orient → Decide → Act
观察 → 定向 → 决策 → 行动

很多人只看到了“行动速度”。

但 Boyd 真正强调的关键,恰恰是 Orient:定向。

如果定向错了,行动越快,死得越快。

今天的 Agent 正在极大加速 Act。

但如果 Owner 无法帮助系统完成更好的 Orient,也就是无法让 Agent 理解目标、边界、语境和价值排序,那么更快的执行只会让偏航更快发生。

所以 PD 要解决的,不是让 Owner 每次都写出更长、更完美的 Prompt。

那不现实。

PD 要解决的是:

如何把 Owner 低频、昂贵、隐性的判断,转化为高复用的系统资产?

比如 Owner 对 Agent 说:

不要在没搞清楚现状前就改核心文件。

这句话很短。

但它背后可能包含大量隐性经验:

  • 过去被 Git 冲突折磨过;
  • 知道核心模块牵一发动全身;
  • 不信任局部补丁;
  • 重视先调查再行动;
  • 讨厌未经验证的假设;
  • 更重视长期可维护性,而非短期完成。

如果这句话只停留在聊天记录里,它很快就会消失。

PD 要做的是把它转化为系统资产:

text
一次纠正
→ Pain Evidence
→ 诊断者回放
→ 高层原则
→ 候选规则 / Skill / RuleHost
→ 后续行为变化

也就是说,PD 的目标不是让人一直纠正 AI。

恰恰相反,PD 是为了减少未来重复纠正。

Owner 的每一次高质量介入,都应该变成未来少打扰 Owner 一次的系统能力。


04 注意力保护层:Owner 不应该成为系统客服

如果 Owner 是系统的价值源头,那么 Owner 的注意力就是系统最稀缺的资源。

这件事非常容易被低估。

一个糟糕的治理系统会这样运转:

text
Agent 犯错
→ 系统生成大量 Pain
→ 诊断者生成大量原则提案
→ Owner 被迫审批
→ Owner 疲劳
→ 随便批准或直接忽略
→ 劣质原则污染系统
→ Agent 更难用
→ 更多 Pain

这就是一个典型的恶性反馈回路:

注意力过载回路。

如果不加控制,PD 自己也会变成一种新型赛博噪音。

这正好对应 Herbert Simon 那个著名判断:

信息消耗的是接收者的注意力。

在 AI 时代,信息不再稀缺。

建议不再稀缺。

方案不再稀缺。

代码不再稀缺。

真正稀缺的是:人类还能把注意力投向哪里。

所以 PD 必须设计一层 注意力保护层

它要负责过滤、压缩、聚类、排序和延迟。

不是每一次工具报错都上升为 Pain。

不是每一个 Pain 都生成原则提案。

不是每一条原则都要求 Owner 审批。

不是每一个冲突都立刻打扰人类。

不是每一段历史都塞进上下文。

Owner 不应该成为系统客服。

Owner 应该成为系统的最高法院。

插图提示:一个未来审判庭/控制室的半具象画面:大量蓝紫色信息流、错误信号和原则提案在外围旋转,但只有少数经过过滤的琥珀色高价值案件被送到中央的 Owner 审判席/控制台。画面强调注意力保护、信息过滤、最高法院隐喻。不要具体人物面孔,不要文字,深蓝黑背景,高级克制,21:9。

这不是为了抬高 Owner 的地位,而是为了保护系统最关键的价值源头不被烧毁。

在系统动力学里,Owner Attention Budget 可以被看作一个关键存量(Stock)。

每一次低质量打扰,都是在消耗它。

每一次高质量压缩,都是在保护它。

当 Owner 的注意力被保护好时,他才有能力做真正重要的事情:

  • 判断方向;
  • 审批原则;
  • 拒绝噪音;
  • 处理例外;
  • 承担最终裁决;
  • 反思自己的目标是否需要更新。

PD 的治理设计,本质上就是要让 Owner 少做低杠杆动作,多做高杠杆判断。


05 从百科全书到判例法:一次介入如何变成长期资产?

为了理解 PD 的协同进化机制,我们可以借用一个人类社会中极其成熟的系统:司法体系。

早期 Prompt Engineering 的思路,很像试图编写一本完美百科全书,或者一部穷尽所有场景的成文法典。

把所有原则、规范、避坑指南、工程经验、注意事项全部写进 System Prompt。

看似很完整。

但在真实复杂环境中,它很快会遇到问题:

  • 条文太多,造成上下文挤兑;
  • 抽象原则互相冲突;
  • 规则过时后无人清理;
  • 具体场景下无法判断该适用哪条;
  • 模型在长程任务中选择性遗忘。

PD 更像一种“判例法”系统。

它不追求一次性穷尽所有真理。

它让系统在真实案件中成长。

一次 Pain Evidence,就像一场真实纠纷。

诊断者回放事故现场,分析失败模式。

Owner 像最高法院一样,不是随便修改“宪法”,而是针对这起典型案件,裁定它背后真正值得记住的原则。

这条原则如果通过审查,就会成为未来类似场景的判例。

随后,它可以进入不同部署通道:

  • 作为 Prompt 中的高阶提醒;
  • 作为 Skill 能力包中的流程;
  • 作为 RuleHost 中的硬拦截;
  • 作为未来训练数据的一部分。

未来,当 Agent 遇到类似场景时,系统不需要重新依赖 Owner 从零解释。

它可以调用历史判例,改变当前行为。

如果时代变化了,模型变强了,项目结构改变了,某些判例产生副作用了,Owner 也可以推翻、降权或归档它。

这就是 PD 的优雅之处:

它不试图提前写完所有智慧,而是让智慧在真实痛点中被判定、沉淀、适用和淘汰。

判例法的精髓不是规则越多越好。

而是每一个被保留下来的判例,都来自真实冲突,并且仍然对未来有指导价值。

PD 的原则系统也应该如此。


06 一叶扁舟:被 AI 追赶的人,如何重新站起来?

写到这里,PD 已经不只是一个技术问题。

它触碰到了一个更大的时代背景。

AI 的进步不可避免地会重塑工作。

很多岗位会消失。

很多技能会贬值。

很多曾经依赖熟练执行换取稳定生活的人,会突然发现自己被时代推到了悬崖边。

这不是一个简单的技术问题。

这是一个人的问题。

如果 AI 时代只奖励少数最会驾驭模型的人,而把大量来不及转身的人直接抛下,那么这个时代即使效率极高,也会显得过于冷酷。

PD 当然无法阻止这场浪潮。

它也不应该承诺拯救所有人。

但至少,它可以选择一个方向:

帮助那些不想躺平的人,把自己过去的经验、行业直觉、失败教训、判断原则和工作方法,逐步沉淀进一个可以协同工作的 Agent 系统里。

这就是我理解的协同进化。

不是让 AI 单方面替代人。

也不是要求每个人都变成顶级 AI 工程师。

而是让一个普通人有机会借助 AI 重新组织自己的能力。

一个客服可能失去重复回答问题的工作,但他多年积累的用户情绪判断、边界感和危机处理经验,并不应该被浪费。

一个运营可能失去手工整理报表的工作,但他对用户增长节奏、内容调性和渠道坑位的判断,并不应该被抛弃。

一个程序员可能不再需要亲手写每一行 CRUD,但他对架构边界、工程风险和维护成本的敏感度,仍然是宝贵资产。

问题在于:

这些经验过去往往只存在于人的身体里、直觉里、口头表达里。

它们很难被系统继承。

PD 想做的,是提供一种路径:

text
人的经验 → 原则
人的痛苦 → Pain Signal
人的 Know-how → Skill
人的底线 → RuleHost
人的判断 → Owner 裁决
人的成长 → Owner-Agent 协同进化

这让我想到王阳明所说的“致良知”。

“良知”如果只是挂在嘴边,就会变成另一种道德鸡汤。真正的“致”,一定发生在行动里,发生在冲突里,发生在一次次具体选择里。

人并不是因为背诵了很多道理,就成为更好的人。

人是在真实处境中反复行动、犯错、反思、校准,才逐渐把某些原则活成自己的本能。

这一点,和 PD 对 Agent 的理解是相通的。

我们不相信把原则写进 Prompt,就能让系统拥有智慧。

同样,我们也不相信一个人在 AI 时代只要听懂几句“大模型方法论”,就能完成转身。

真正的转身,必须发生在行动中。

Owner 借助 Agent 执行,Agent 暴露偏差,PD 捕捉痛苦,诊断者提炼原则,Owner 进行裁决,原则再回到下一次行动。

在这个循环里,Agent 被训练,系统被训练,Owner 也被训练。

如果说“知行合一”讲的是人的知必须在行动中被验证,那么 PD 关心的就是:Owner 的知,如何借助 Agent 的行,在反馈中不断被校准、被显化、被带回自身。

所谓协同进化,不只是 Agent 变强。

也是 Owner 在一次次反馈中,越来越接近那个他想成为的人。

插图提示:AI 巨浪般的蓝紫色信息海潮从远处涌来,画面中央有一叶小舟,舟上不是具体人物,而是一个抽象的 Owner 光影轮廓,手中握着发光的桨。小舟周围有 Agent 引擎、原则节点和反馈线作为支撑,像一套外骨骼/导航系统。整体情绪:渺小但坚定,怜悯但不悲观,深蓝黑背景,琥珀色人类价值锚点,21:9 横幅。


07 真正的杠杆点在哪里?

Donella Meadows 在《Leverage Points》中讨论过一个重要思想:

复杂系统中,最有力量的干预点,往往不是那些最显眼的参数,而是目标、规则、信息流和范式。

这对 PD 很重要。

如果我们把 Agent 系统看成生态,那么真正的杠杆点并不只是:

  • 换更大的模型;
  • 加更长的上下文;
  • 加更多工具;
  • 加更多规则;
  • 加更多 Prompt。

这些当然有用,但它们往往不是最高杠杆。

PD 里的关键杠杆点,至少有五个。

杠杆点一:感知带宽

系统能看见什么,决定了它能学习什么。

如果一个 Agent 只能感知到工具报错,那它最多成长为一个更擅长处理 API 失败的机器人。

但如果系统能感知到:

  • 目标漂移;
  • 未验证假设;
  • 擅自扩大修改范围;
  • Owner 反复纠正;
  • 用户信任下降;
  • 重构后维护成本上升;

那么系统就有机会学习更高级的行为模式。

感知层决定治理上限。

看不见的痛苦,无法被反思。

无法被反思的痛苦,只会重复发生。

杠杆点二:Owner 注意力保护

Owner 是价值源头,但 Owner 的注意力是有限资源。

如果系统持续用低质量信号轰炸 Owner,Owner 会疲劳。

疲劳之后,要么盲目批准,要么彻底放弃治理。

所以 PD 不能只追求多发现问题。

它必须追求少而准地呈现问题。

真正好的治理系统,不是让 Owner 管更多。

而是让 Owner 只在关键杠杆点介入。

杠杆点三:意图压缩质量

Owner 的一次反馈,能否被压缩成高质量原则,是系统进化效率的关键。

低质量压缩会产生废规则。

过度具体的压缩会导致过拟合。

过度抽象的压缩会退化成鸡汤。

好的诊断者必须把一次具体 Pain,压缩成足够抽象但仍可执行的原则。

比如:

text
坏压缩:推送前记得 git pull。
好压缩:动手前先了解清楚现状,永远不要基于假设行动。

前者只能解决一个 Git 场景。

后者可以迁移到重构、调试、删除文件、执行命令和产品决策。

杠杆点四:激活精度与耗散机制

原则不是越多越好。

规则也不是越硬越好。

一条原则如果在错误场景被激活,它会变成干扰。

一条规则如果过时还不退场,它会变成债务。

所以系统必须具备新陈代谢:

  • 只在相关场景激活少数原则;
  • 让长期无效的原则降权;
  • 让已经内化的规则退出上下文;
  • 让被更强模型能力覆盖的脚手架逐步拆除。

这正是连载四讨论过的剪枝机制。

聪明的系统不只是会记住。

聪明的系统也会忘记。

杠杆点五:时间尺度分离

PD 不是一个单尺度系统。

它必须同时处理不同时间尺度的反馈:

text
秒级:工具报错、命令失败、权限阻塞
分钟级:任务偏航、反复重试、GFI 上升
小时级:一次任务复盘、Pain Evidence 归档
天级:相似任务中的行为变化
周/月级:原则是否过时、规则是否该剪枝
更长周期:Owner 与 Agent 的能力是否共同提升

很多系统失败,就是因为把所有反馈都混在一个尺度上处理。

秒级报错,不应该都惊动 Owner。

月级价值判断,也不能交给局部工具反馈决定。

时间尺度分离,是智能系统走向稳定演化的必要条件。


结语:让不想躺平的人,拥有一只可以握住的桨

如果说连载一讨论的是人类如何避免沦为打字员,那么连载五要回答的就是:

人类如何重新成为舵手?

PD 的终点,不是替人类做决定。

它的目标,是帮助人类把自己的判断力、原则、痛感和经验,沉淀成系统能力。

Agent 扩展执行带宽。

PD 沉淀反馈和原则。

Owner 提供方向、意义和最终裁决。

三者共同构成一个多尺度反馈系统。

这不是传统的软件工程。

也不只是机器学习。

这是某种正在形成中的 AI Systems Engineering:在长周期、多反馈、人机混合的生态中,设计一个既能执行、又能反思、还能被人类治理的智能系统。

但比“系统工程”更重要的,是它背后的人。

AI 时代会很快。

也会很冷。

它会奖励那些适应得最快的人,也会无情地淘汰很多曾经认真工作、但来不及转身的人。

PD 无法改变整条时代洪流。

它不是诺亚方舟,也不应该承诺拯救所有人。

但我仍然希望,它能成为一叶扁舟。

在 AI 这股滔天巨浪袭来的时候,有些人会被浪头拍倒,有些人会选择躺平,也有些人仍然想抓住一点东西,重新站起来,重新学习,重新组织自己的能力。

PD 想站在这些人身边。

它希望帮助他们把过去的经验变成原则,把原则变成系统,把系统变成新的生产力。

它希望让一个人不只是被 AI 替代,而是能够借助 AI 延展自己的手、眼、脑和判断力。

它希望让 Owner 不只是给 Agent 下命令的人,而是在反馈、痛感、反思和行动中,慢慢成为更清醒、更坚定、更有创造力的人。

这就是我理解的协同进化。

不是和 AI 赛跑。

而是带着 AI 一起进化。

不是把方向盘交出去。

而是成为一个配得上强大引擎的舵手。

如果这个时代注定会有巨浪,那至少让那些不想躺平的人,拥有一只可以握住的桨。


连载至此,PD 的阶段性思想闭环已经形成:从执行力泛滥,到 Prompt 注入失败;从痛苦信号,到软硬转换;再到 Owner-Agent 的协同进化。接下来,真正的挑战将回到现实:如何把这些原则变成一个足够轻、足够稳、足够可用的开源系统。


— 一根芦苇