路由流水线

需要路由的模型调用依次经过请求理解、策略和模型执行阶段。所选配方定义这些阶段，harness 负责外层任务循环与工具执行。

信号：提取事实

信号给从请求、对话、身份或内容中检测到的事物命名。有些信号是确定性的，例如关键词、元数据谓词或上下文长度区间。另一些使用嵌入或分类器模型，用于语义意图、领域、复杂度、PII 或越狱检测。

信号描述事实，不选择后端。同一信号可被同一配方内的多个决策复用。

维护中的启发式与学习型家族见信号概览。

投影：协调证据

投影把若干信号输出变成可复用结果：

• 分区 在重叠匹配中选出一个连贯的胜者；
• 分数 组合加权输入；
• 映射 把分数转换成具名路由区间。

例如，领域证据可以形成互斥的领域分区，复杂度、上下文和校验证据可以形成难度分数。多个决策随后可以引用这些结果，而不必重复组合逻辑。

见投影。

决策：应用策略

决策用布尔规则组合信号和投影输出。其优先级以及配方的策略决定哪条匹配路由胜出。匹配的决策提供候选模型、可选算法和路由局部插件。

在这里把硬要求写清楚。授权、仅本地处理、模态、上下文容量和工具兼容性应在优化器比较成本或延迟之前，决定路由是否合格。

见决策。

算法：选择或协调模型

决策匹配后，其算法处理候选集。

• 选择算法 按固定顺序、语义匹配、延迟、反馈或其他有界策略选出一个候选。
• Looper 算法 通过级联、评审组、多轮过程或工作流协调多次调用。

当决策只有一个候选时，最简单的静态行为往往就是正确选择。编排应留给额外延迟和算力已有可度量价值的任务。

见算法。

插件：应用路由特定行为

插件为所选路由附加行为。按插件不同，该行为可能在提供方请求之前、执行期间或处理响应时运行。示例包括请求参数变更、上下文压缩、检索、记忆、回放、响应缓存和响应控制。

检测和执行是不同的。例如，PII 信号报告一次匹配；决策和插件策略决定是拦截、改路、转换，还是仅观察。

见插件。

模型池：执行请求

提供方把逻辑模型名绑定到物理推理端点。池中可以包含本地 vLLM 或 Ollama 服务、Kubernetes 托管模型，或远程 OpenAI 兼容提供方。Semantic Router 选择模型路径；模型服务器或后端调度器执行它，并拥有副本放置。

需要模型的信号会使用模型运行时中的 deployment；多个任务可以共用同一部署和副本池。算法选择回答用户的后端模型，运行时副本池则为某个部署选择可用 worker，两者是不同的调度层。见组件架构。

能力和运行时元数据只在策略边界内有用。如果快速后端无法满足请求的模态、上下文、工具或本地性要求，它就不合格。

配方保持策略隔离

入口选择一个配方。该配方拥有自己的信号、投影、决策、算法、插件、缓存命名空间和路由状态。提供方、存储和 Router 自有的模型资产可以共享，但不能让一个配方的策略泄漏到另一个配方。

具体后端模型名是直通请求。它们绕过配方信号、决策、路由局部插件、缓存、学习和会话路由。若虚拟入口的配方没有匹配决策，Router 使用已配置的默认提供方模型。

完整配置约定见虚拟模型。

示例：携带工具的编码调用

Harness 发送对话、工具定义和虚拟模型名。入口选择配方；信号识别编码请求及其对话事实。决策确定路由与候选集，再经过能力与上下文检查缩小候选集，由算法选择模型。配置后，路由插件可以应用工具策略或上下文压缩。响应返回 harness，由它执行工具并推进下一任务步骤。

多轮路由需要明确配置会话身份与保护。活跃工具循环或不可迁移的提供方状态会限制模型切换；被策略排除的候选不能仅为了维持连续性而恢复。集成边界见 agent harness 指南。

工作负载、Router 与模型池

有用的路由决策把三种视角合在一起：

视角	示例
工作负载	意图、语言、复杂度、上下文、工具、模态、身份
Router 策略	资格、优先级、目标、插件、算法
模型池	能力、本地性、健康、延迟、负载、相对成本

工作负载说明需要什么。策略说明允许什么、偏好什么。模型池说明当前可用什么。把这些视角分开，系统更容易变更和评估。