writing
机制皆可拆装,唯边界不让渡
一个 AI 组织里,模型、内核、通道、记忆承载都可以替换,唯独知识库的边界和解释权,不能交给系统自己决定。
搭一个 AI 系统的人,很容易掉进一个陷阱:追求「全自动」。让智能体自己读知识、自己决策、自己越界去调用别的业务的东西,觉得人介入越少越先进。
但有一类东西,一旦让渡出去,就收不回来了——知识库的边界,以及谁有权解释这些知识。
可以拆装的,和不能让渡的
我搭的那套系统里,几乎所有东西都是可拆装的:
- 模型可以换——今天用这个,明天换更强的;
- 内核可以换——一个擅长推理,一个擅长记忆,一个擅长跑渠道,各管一摊;
- 通信通道可以换——主链路走机器间的 RPC,监控走人看的飞书,互不干扰;
- 记忆承载可以换——可塑层放随时能改的记忆,沉淀层放固化为能力的权重,随时调整。
机制层的部件越能拆装,系统越有进化的空间。换一个不伤筋动骨,才是健康的架构。
但有一条线,我从不让系统自己碰:知识库的边界,以及谁有权解释这些知识。
为什么边界不能让渡
设想一个场景:一个负责 A 业务的智能体,执行任务时「觉得」B 业务的某条知识有用,于是自己跨过去挂载过来用了。
听起来很顺,甚至很「智能」。但它有一个致命问题:跨业务的污染,往往是不可逆的。
- A 业务的训练数据里混进了 B 业务的事实,模型会自信地复述不属于它的东西;
- A 的判断逻辑里掺进了 B 的边界,下次它就分不清自己在为谁做事;
- 更糟的是,这些污染发生在权重里、在向量里,你很难一条条挑出来删掉。
知识是有归属的。一个业务知道什么、不该知道什么,是它身份的一部分。让智能体自己决定「我顺手用一下别的业务的知识吧」,等于让它自己重新定义自己的身份——这事不能交给它。
解释权同样不能让渡
比「用什么知识」更深的,是「这条知识该怎么理解」。
同一个事实,放在不同业务里,解释可以完全不同。一条市场数据,对出海硬件品牌是一个意思,对康养徒步是另一个意思。谁来定这个解释?必须是人,或者由人定好的规则,而不是智能体临场发挥。
所以我立了一条铁律:任何跨业务挂载知识库,必须显式审批,没有「默认允许」。这不是不信任智能体,而是承认有些判断不该自动化——边界和解释,恰恰是那个不该自动化的部分。
自治越高,留痕越严
这背后有一个更一般的原则:一个系统越是放权让下面自己跑,越要在关键节点上设硬门槛。
- 可以让智能体自己决定任务怎么切、路径怎么选——这是它的判断力,要给它空间;
- 但不能让它自己决定跨不跨业务边界、改不改知识归属——这是红线,要卡死。
很多人误解了「自治」。自治不是什么都不管,而是把管的力量,集中到真正不能错的地方。机制可以拆装,部件可以替换,唯独边界和解释权,得牢牢攥在人手里。
一个连自己的知识边界都守不住的组织,谈不上成长——它只会越界、混染,最后变成一个什么都沾一点、什么都不专的糊糊。