支持矩阵与阈值
每个模型都以规范的零样本形式回答它能回答的每个预设。有些家族针对某个预设训练过,有些对它有校准阈值。本页同时列出两者,帮助你判断更换决策模型后会发生什么变化。
支持矩阵
TC 训练且校准,T 训练,B 关闭全部适配器的基座模型,Z 零样本,— 无法运行。
| 预设 | vela3-fast | vela3-lite | vela3-mini、-flash、-turbo | d3(本地或托管) | Decision 2.0 | Vela 2.0 |
|---|---|---|---|---|---|---|
| domain、fact_check、feedback | TC | T | T | Z | Z | TC |
| jailbreak | TC | B | B | Z | Z | TC |
| harm | TC | request 阶段为 B,response 阶段为 T | request 阶段为 B,response 阶段为 T | Z | Z | TC |
| 危害类别 | T | request 阶段为 T,response 阶段为 Z | Z | Z | Z | Z |
| pii | TC | T | T | — | — | TC |
| hallucination | T | T | T | — | — | T |
| refusal | T | T | T | Z | Z | Z |
| modality | text、image、text_image 为 TC,其余为 Z | 这三个为 T,其余为 Z | 这三个为 T,其余为 Z | Z | Z | Z |
| turn_relation、complexity、relevance、same_request、tool_rank、tool_need、answer_check | Z | Z | Z | Z | Z | Z |
- Vela 3.0 的 d3 规格按问题 ID 开启训练过的适配器:
domain、factcheck、feedback、r_harm、r_refusal、modality,以及仅在 vela3-lite 上开启的危害类别hazard:前缀;vela3-fast 和 Vela 2.0 按措辞匹配。 - Vela 3.0 的 d3 规格用基座模型回答 jailbreak 预设和 request 阶段的 harm 预设,关闭 全部适配器。它们的
attack和p_harm适配器在攻击被其他文本包围时会失去它(在 vela3-turbo 上,8K token 散文之后的注入得分 0.975,基座为 0.9992),对正常文本的评分也更高;而 0.995 这类防护阈值是按基座的回答设定的。 - d3 家族和 Vela 3.0 的 d3 规格能读取图片输入。目前没有决策模型能为路由规则读取音频或视频。
校准阈值
在 router signal suite 上测量过的模型上,未写 predicate 的规则使用的默认值:
| 模型 | jailbreak | domain | pii | fact_check | feedback | harm | modality |
|---|---|---|---|---|---|---|---|
vllm-sr/vela3-fast | 0.88 | 0.41 | 0.18 | 0.9999 | 0.47 | 0.52 | 0.63 |
vllm-sr/Vela-2.0-0.3B | 0.75 | 0.28 | 0.01 | 0.93 | 0.37 | 0.46 | 0.51 |
vllm-sr/Vela-2.0-0.8B | 0.71 | 0.38 | 0.07 | 0.994 | 0.34 | ||
vllm-sr/Vela-2.0-4B | 0.63 | 0.45 | 0.05 | 0.9984 | 0.33 | ||
vllm-sr/Vela-2.0-9B | 0.42 | 0.46 | 0.14 | 0.998 | 0.35 |