MODULE 06

架构选择

1 章v2.0 起2 次修订
架构选择 示意图

01. 架构选择与自主性定级

第零刀:是不是根本不需要改架构?

改架构前先问:失败是出在"流程走向",还是出在"某一步的执行质量"?

  • 流程走向错 → 这是架构问题,往下看第一刀、第二刀。
  • 流程走向对,但某一步执行得不好 → 这不是架构问题,是 skill 问题。

判断口诀:如果把问题描述成"模型知道该做什么,但不知道按我的标准怎么做",那就是 skill;如果描述成"模型走错了路"或"模型没有走该走的路",那才需要改架构。

干预手段的优先级:skill(场景级)→ system prompt(全局级)→ workflow/agent(架构级),从最轻到最重。

第一刀:步骤由谁决定

步骤来源 用什么
模型临场想(我不知道步骤) 纯思考 → CoT / 推理模型;要调工具自主规划 → agent
人已知步骤(我知道正确流程) 纯思考顺序不调工具 → 写进 prompt;要调工具有分叉 → workflow 编排
  • CoT 是给"模型临场想"用的,不是给"人已知步骤要它照做"用的。已知的流程该固定,别让模型每次重想。

第二刀:workflow vs agent 的真正分界

  • workflow:流程走向由代码/预定义规则决定。AI 可在某一步内部做任意复杂思考,但"下一步走哪"由代码决定。
  • agent:流程走向由 AI 自己决定。

判断口诀:把那一步的 AI 换成"一个输入模糊、输出确定的超级聪明函数",若整个流程还能按流程图跑 → workflow;若流程图本身要靠 AI 临场决定 → agent。

企业场景:自主性能少则少

企业 AI 产品的自主性是一条光谱,企业场景大多偏左。原因:

  1. 错误代价高、要可控可审计;
  2. 正确流程通常已知;
  3. 要稳定一致。

原则:自主性能少则少——只给到"确实需要智能判断且无法预先确定"的节点,其余用 workflow 固定。

与能力边界相通:核心区(确定能力)适合 workflow 固定,边缘区(需判断)才需要模型推理。

自主性定级工具:错误代价 × 可检测性矩阵

给每个动作按"错误代价 × 可检测性"分别判断:

                     错误易发现              错误难发现(静默损坏)
高错误代价    带人工审批部署            别部署,除非有严格护栏
低错误代价    可放心自主部署            带监控部署

同一个产品的不同功能,落在不同格子,该给的自主权和护栏也不同。

能力不足时:缩范围,不加编排

当某个环节 AI 做不可靠时,正确做法(按优先级):

  1. 缩小范围(narrow scope):让这个环节只处理它能可靠处理的子集;
  2. 简化问题:去掉依赖弱能力的步骤;
  3. 加脚手架(scaffolding):用确定性的工具补偿。

本质:不可靠的环节需要的是"减少它需要做的事"或"用确定性工具兜底",而不是"让它做更多的事"。