模式与 fan-out
已发布的组合模式与TypeSafe决策示例。
TypeSafe 发布了四种组合模式:speculative fan-out、置信度门控路由、组合评分和意图路由。它们都将控制流保留在代码中。文档要求掌握的核心能力,是把问题拆成可组合的原子决策来思考。请先阅读 Primitives 和置信度页面。本页索引这四种模式,并列出 Jev 可参与的软件决策用例,从工单路由、理赔,到防护规则、搜索和游戏。建议从 fan-out 开始。
四种已发布模式
推测式 fan-out:在一次调用中发送多个问题,其中包括推测性问题,再由代码判断哪些结果相关。TypeSafe 列出的优势是成本和速度。智能家居演示提供了完整示例。对于“关闭房屋中的所有灯”,仍然要同时询问类别、领域、设备和操作;即使尚不知道这句话与灯有关,也要提前加入操作问题。顺序调用需要逐步等待,而并行评估后再用代码筛选正是此模式的要点。
Confidence门控路由:将 Confidence 作为是否执行操作的第二个判断轴。优点是可靠性和安全性。没有 Confidence 门槛时,标签即使面对平坦分布也会触发。请为Choice或Score配置随风险提高而收紧的阈值,并让Noul保持为独立维度。
复合评分:把一项判断拆成多个原子 Score,再在代码中按权重组合。优点是成本、可靠性和速度。不要让 Jev 直接给出一个笼统的 1-100 质量分。分别用Score评估证据、政策匹配度和严重程度,再相加。意图路由:对意图分类,并将其路由至业务逻辑、LLM 或人工处理。优点是成本和速度。Jev 只决定运行哪个处理程序;它本身不会变成撰写回复的处理程序。
推测式 fan-out
- 做什么
- 在一次调用中发送多个问题,包括推测性问题。
- 收益
- 成本、速度
Confidence 门控路由
- 做什么
- 将置信度作为是否执行操作的第二条判断轴。
- 收益
- 可靠性、安全性
综合评分
- 做什么
- 将判断拆成原子级评分,再在代码中按权重组合。
- 收益
- 成本、可靠性、速度
意图路由
- 做什么
- 分类意图,并路由至逻辑程序、LLM 或人工。
- 收益
- 成本、速度
| 决策 | 类别 | Jev 判断什么 |
|---|---|---|
| 客户支持 | automation | 分类工单、检测紧急程度和退款诉求,并路由到相应队列。 |
| 保险理赔 | automation | 分类首次损失通知记录,并升级高风险理赔。 |
| 金融犯罪 | automation | Score 警报叙述,并路由含糊的 KYC 案例。 |
| 法律与合规 | automation | 检测缺失条款和禁止性声明。 |
| 电商平台 | automation | 规范商品信息,并标记违禁品或假货信号。 |
| 内容审核与信任安全 | automation | 按严重程度应用公司专属的审核标准。 |
| 广告 | automation | 检查品牌安全及广告与落地页的一致性。 |
| 游戏 | automation | 审核聊天内容、评估挫败程度,并路由玩家支持请求。 |
| 招聘 | automation | 依据明确且与岗位相关的标准 Score 简历。 |
| 潜在客户开发 | automation | 将资料与理想客户画像匹配,并路由购买意图。 |
| 模型路由 | automation | 选择由哪个 LLM 接收各条提示词。 |
| LLM 护栏 | automation | 检测越狱、注入和政策违规行为。 |
| 搜索与检索 | automation | Score 查询与候选结果的相关性,并重新排序。 |
| 特征提取 | automation | 将语言转换为供传统机器学习使用的概率特征。 |
| 风险评估 | automation | 将事件记录转换为概率型风险指标。 |
| 图与知识图谱 | automation | 分类关系并检测矛盾。 |
| 语义代码检查 | automation | 在 CI 中运行团队专属的语义检查。 |
| 需求预测 | automation | 提取意图和紧急程度特征以用于预测。 |
用例图中的决策示例
TypeSafe的用例图列出的是行业示例,而非第二套 Primitives。客户支持可分类工单、检测紧急程度和退款情况,并路由队列。保险理赔可分类首次损失通知记录,并升级高风险档案。金融犯罪防控可为警报叙述评分,并路由模糊的 KYC 案例。法律与合规可检测缺失条款和禁止性声明。电商平台可规范商品信息并标记假货信号。
内容审核可按公司专属标准及严重程度处理。广告场景可检查品牌安全和广告与落地页的一致性。游戏场景可审核聊天、评估挫败感并路由玩家支持。招聘场景可按明确的职位相关标准评估简历。潜客开发可将客户资料与 ICP 匹配。模型路由可选择由哪个 LLM 接收提示词。LLM 护栏可检测越狱、注入和政策违规。
搜索与检索可评估查询和候选项的相关性。特征提取可把语言转换为供传统 ML 使用的概率特征。风险评估可把事件记录转换为指标。图谱可分类关系并检测矛盾。语义代码检查可在 CI 中执行团队专属检查。需求预测可提取意图和紧急程度特征。每一行代表一种决策形态,而非托管工作流。执行操作的代码仍由你负责。
在代码中组合,不要塞进一个提示词
扇出配合置信度路由是生产环境中的常见组合:提出超出实际所需的问题,丢弃无关的 Noul,然后仅在 Choice 置信度达到高门槛时自动执行操作。当单个 Score 会掩盖三项不同判断时,可在下层采用综合评分。意图路由则作为入口,决定请求的其余部分交给 Jev、LLM 还是人工处理。
evals.typesafe.ai 发布的评测系列包括安全事件、代理轨迹可观测性、发票处理和客户服务。TypeSafe 首页上的 193.6x / 444.6x 数据,来自这些工作流评测与 Astra 和 Fable 平均值的对比。请将其视为 TypeSafe 发布的对比结果,而非本 wiki 复测所得的数据。
如果所需模式不在这四种之中,仍可组合使用基础单元。新的控制流应保留在你的仓库中。如果希望将其加入文档索引,请向 TypeSafe 提交说明。在 TypeSafe 发布另一个具名模式前,额外组合都应留在应用代码中。
为工作流选择模式
当多个问题共用一个 state,且其中一些可能不适用时,优先采用 speculative fan-out。这是助手、工单机器人及所有类似总机系统的默认模式。一旦某个答案可能触发副作用,就应加入置信度门控路由,例如退款、封禁、转账或部署。
当单个 Score 会混合不同维度时,使用综合评分。证据质量、政策符合度和客户问题严重程度应分别作为三个 Score,再由你在代码中进行加权求和。对于还包含 LLM 或人工队列的混合系统,应在边界处使用意图路由,让 Jev 决定目的地,而不是代替目的地完成工作。
本页的 18 个示例决策是 TypeSafe 提供的应用图谱,并非额外端点。客户支持、理赔、护栏、搜索和游戏场景仍然调用 POST /v1/systemone,并传入 Choice、Score 和 Noul。可复用决策结构,但判断标准应来自你的政策文本,而不是通用提示词库。
默认使用扇出。当标签可能导致花钱或封禁用户时,加入置信度门控。如果单个说明会混合不同轴线,就拆分为多个 Score。与 LLM 相接的边界应使用意图路由。这四句话涵盖了全部已发布模式。
用例图谱包含十八种决策结构,而非十八个 API。每一行最终仍会转换为 POST /v1/systemone 上的一个或多个问题。将结构复用到你的业务领域,再依据自身政策编写标准。不属于你政策的通用审核提示词无法匹配此图谱。
推测式 fan-out 的名称也是本页的 H1,因为 TypeSafe 首先介绍的就是这种模式。其余三种模式列在下方,用于处理单次调用返回后的答案。
18 个决策示例共用同一个系列名称 automation,因为它们都是软件判断,并非另一条产品线。
来源