System One 概念

一次 System One 调用由两部分组成：状态（state），即问题所针对的上下文；以及问题（questions），每个问题有名称和类型。模型用概率回答每个问题，规则依据这些数值进行匹配。

One state, two questions

{
  "state": {"request": "My card was charged twice.", "history": "Where is my order?"},
  "questions": {
    "team": {"type": "choice", "instructions": "Which team should handle this?",
             "choices": [{"key": "billing", "description": "Payments and refunds"},
                         {"key": "other", "description": "Anything else"}]},
    "urgent": {"type": "noul", "instructions": "Does the user report a problem that blocks them?"}
  }
}

问题类型

类型	问什么	需要写	答案	规则读取
choice	这些选项中哪个合适？	2 到 255 个 choices，每个有 key 和 description	选中的选项以及每个选项的概率	P(选中选项)，或某个标签的 P(选项)
noul	这是否成立？	只需 instructions	P(是)	P(是)
score	在有序刻度上程度如何？	2 到 10 个 levels	期望等级（从 0 开始计）以及每个等级的概率	期望等级
set	这些标签中哪些适用？	1 到 255 个 labels	每个标签的概率，以及模型选中的标签	P(标签)
span	每个标签出现在文本的什么位置？	1 到 255 个 labels	带标签的字符 span，每个附带概率	某个标签最可能的 span

• noul 是 System One 的是/否类型。
• 没有原生 set 的模型，会在同一次调用中把 set 问题按每个标签一个 noul 来回答。
• 有些模型声明了更多类型：d3-turbo 和 d3-ultra 在 API 上回答 box（某物在图像中的位置）和 track（某物在视频每个时刻的位置）。路由规则不会问这两种问题。

提示

像问同事那样写说明，并用几个词描述每个选项。编写自定义问题展示了什么样的写法最适合模型阅读。

状态及其组成部分

状态是问题所针对的文本。只针对当前用户轮次的问题，状态就是那段文本。当问题需要读取更多内容时，状态是一个由命名部分组成的对象：模型把 request 读作用户的轮次，把 answer 读作模型的回答，其余部分都读作上下文。

部分	内容	被谁询问
request	当前用户轮次：路由文本，已按 global.router.routing_input 的要求去掉相应内容	每个请求阶段的问题
history	之前的用户轮次	设置了 input.history 的规则
previous_turns	最近 N 个轮次（用户和助手），以对话记录形式呈现	设置了 input.previous_turns 的规则；turn_relation 默认读取 4 个
previous_answer	当前轮次所回复的那条助手回答	user_feedbacks（feedback 预设）
tool_results	请求中的工具结果	设置了 input.tool_results 的规则
candidate	评审打分的对象：文档、片段或缓存请求	relevance 和 same_request 评审
answer	模型的回答	响应阶段的规则；answer_check
context	回答的依据上下文：检索到的文档和工具结果	设置了 input.context 的响应阶段规则；hallucination
images、videos	请求携带的全部图像，以及当前轮次的视频部分	设置了 input.image 或 input.video 的规则

内容为空的部分会被省略，因此一条读取历史的规则在第一轮时只针对请求本身提问。

阶段

问题在以下两个阶段之一被提出：

• request（默认）：路由之前，针对请求。决策、投影和请求插件读取请求阶段的规则。
• response：模型回答之后，针对其回答。只有插件读取响应阶段的规则。

备注

决策在回答产生之前就完成路由，因此规则读取响应阶段信号的决策会在加载时被拒绝。

预设

预设是 Router 自有的规范零样本问题：包含说明、带描述的选项、所在阶段及读取的部分、长输入覆盖多少，以及是否需要 span。预设是内部的；你通过询问它们的功能来使用它们：

• 十一个应用信号，每个都把一条规则编译成其预设的一个问题；
• match 评审 relevance、same_request 和 tool_rank，以及 tools 插件的 tool_need 门控；
• escalate，其 answer_check 和 refusal 检查用于评判回答。

你自己的问题是一条 systemone 规则。预设目录列出了每个预设。

针对相同部分、向同一部署询问同一预设的多条规则，在每次调用中共享一个问题。每条规则再把自己的 labels 和 predicate 应用到共享的答案上。

训练与零样本回答

每个模型都以规范形式回答预设。如果某个模型家族针对某个预设训练过，Router 会改用训练形式提问：

• 训练绑定。 Vela 3.0 d3 规格按精确的问题 ID（domain、factcheck、modality 等）开启训练过的适配器；vela3-fast 和 Vela 2.0 按精确措辞选择，而它们训练过的每个预设的措辞就是规范措辞。训练选项的键会被映射回来：modality 问题训练用的 AR、DIFFUSION 和 BOTH 分别返回为 text、image 和 text_image。d3 规格的防护问题（jailbreak，以及 request 阶段的 harm）改由基座模型回答，它们的适配器在这些问题上表现更差（支持矩阵）。
• Router 自有 ID。 没有训练形式的问题以带 : 的 ID 发出，它不会与训练 ID 冲突，因此不会意外开启适配器。
• 校准阈值。 在 vela3-fast 和 Vela 2.0 上，预设的默认谓词是在 router signal suite 上保持 Vela 1.0 专用模型工作点的阈值。

备注

其他模型使用 0.5 作为预设的默认谓词，配置加载时会给出 uncalibrated_preset 警告并指出规则。在规则上写 predicate 可以设置你自己的值。

支持矩阵列出了每个预设和家族的回答是训练并校准、训练、零样本，还是无法回答。

Span 能力

Span 问题返回带标签的字符偏移。Vela 3.0 和 Vela 2.0 家族能回答；d3 家族（本地或托管）以及 Decision 1.0 和 2.0 不能。以下三类需要 span：

• pii 和 hallucination 预设；
• 每一条问题类型为 span 的 systemone 规则；
• masking 插件，通过它所指定的 pii 规则。

它们都必须解析到支持 span 的部署。使用默认决策模型时无需额外配置。如果决策模型不支持 span，就把需要 span 的类型绑定到支持 span 的部署。

注意

否则配置加载会以 span_required 失败：

recipes[default].signals.pii[personal_data]: span_required: resolves to deployment "d3-ultra-remote", which cannot answer span questions; bind pii to a span-capable deployment (rule deployment, recipes[].model_bindings.pii or global.model_catalog.bindings.pii)

媒体输入

规则用 input.image 读取请求携带的全部图像，用 input.video 读取当前轮次的视频。回答的部署必须声明自己能读取该媒体，否则配置加载以 input_modality_unsupported 失败。

• d3 家族和 Vela 3.0 d3 规格能读取图像。
• input.audio 和 input.video 是 schema 的一部分，声明支持它们的模型无需修改 schema 即可回答这类规则。
• 目前没有决策模型能读取音频，因此在出现这样的模型之前，input.audio 在所有部署上都会被拒绝。

限制

限制	值
choice 的选项数	2 到 255
set 或 span 的标签数	1 到 255
score 的等级数	2 到 10
一次调用中的问题数	协议无限制
choice 评审（tool_rank）的候选数	最多 255，即选项上限
逐候选评审（relevance、same_request）的候选数	judge.max_candidates，默认 64，最多 4096

候选数超过上限的评审会截断，绝不会让请求失败。输入长度是模型的属性：vela3-fast 每次决策读取 32,768 个 token，路由和 span 问题使用 8,192 token 的窗口；较大的 Vela 3.0 规格每次决策最多读取 262,144 个 token，每个 span 目标 32,768 个。性能与成本介绍长输入。