01. 架构选择与自主性定级
第零刀:是不是根本不需要改架构?
改架构前先问:失败是出在"流程走向",还是出在"某一步的执行质量"?
- 流程走向错 → 这是架构问题,往下看第一刀、第二刀。
- 流程走向对,但某一步执行得不好 → 这不是架构问题,是 skill 问题。
判断口诀:如果把问题描述成"模型知道该做什么,但不知道按我的标准怎么做",那就是 skill;如果描述成"模型走错了路"或"模型没有走该走的路",那才需要改架构。
干预手段的优先级:skill(场景级)→ system prompt(全局级)→ workflow/agent(架构级),从最轻到最重。
第一刀:步骤由谁决定
| 步骤来源 | 用什么 |
|---|---|
| 模型临场想(我不知道步骤) | 纯思考 → CoT / 推理模型;要调工具自主规划 → agent |
| 人已知步骤(我知道正确流程) | 纯思考顺序不调工具 → 写进 prompt;要调工具有分叉 → workflow 编排 |
- CoT 是给"模型临场想"用的,不是给"人已知步骤要它照做"用的。已知的流程该固定,别让模型每次重想。
第二刀:workflow vs agent 的真正分界
- workflow:流程走向由代码/预定义规则决定。AI 可在某一步内部做任意复杂思考,但"下一步走哪"由代码决定。
- agent:流程走向由 AI 自己决定。
判断口诀:把那一步的 AI 换成"一个输入模糊、输出确定的超级聪明函数",若整个流程还能按流程图跑 → workflow;若流程图本身要靠 AI 临场决定 → agent。
企业场景:自主性能少则少
企业 AI 产品的自主性是一条光谱,企业场景大多偏左。原因:
- 错误代价高、要可控可审计;
- 正确流程通常已知;
- 要稳定一致。
原则:自主性能少则少——只给到"确实需要智能判断且无法预先确定"的节点,其余用 workflow 固定。
与能力边界相通:核心区(确定能力)适合 workflow 固定,边缘区(需判断)才需要模型推理。
自主性定级工具:错误代价 × 可检测性矩阵
给每个动作按"错误代价 × 可检测性"分别判断:
错误易发现 错误难发现(静默损坏)
高错误代价 带人工审批部署 别部署,除非有严格护栏
低错误代价 可放心自主部署 带监控部署
同一个产品的不同功能,落在不同格子,该给的自主权和护栏也不同。
能力不足时:缩范围,不加编排
当某个环节 AI 做不可靠时,正确做法(按优先级):
- 缩小范围(narrow scope):让这个环节只处理它能可靠处理的子集;
- 简化问题:去掉依赖弱能力的步骤;
- 加脚手架(scaffolding):用确定性的工具补偿。
本质:不可靠的环节需要的是"减少它需要做的事"或"用确定性工具兜底",而不是"让它做更多的事"。