跳到主要内容
版本:v0.4

支持向量机选择

概览​

svm 使用已训练的线性或 RBF 支持向量分类器,把请求特征映射到候选模型。

实现:通过 Linfa(linfa-svm)用 Rust 实现。

主要优势​

  • 学习显式决策边界 — 可通过支持向量解释。
  • RBF 核捕获查询到模型映射中的非线性模式。
  • 与神经网络方法相比,推理更轻量。
  • 有充分理解的理论保证(最大间隔)。

算法原理​

SVM 寻找在不同模型类别之间最大化间隔的超平面:

min⁡w,b12∥w∥2+C∑iξi\min_{w, b} \frac{1}{2} \|w\|^2 + C \sum_{i} \xi_i

s.t. yi(wTϕ(xi)+b)≥1−ξi,ξi≥0\text{s.t. } y_i(w^T \phi(x_i) + b) \geq 1 - \xi_i, \quad \xi_i \geq 0

使用 RBF(Radial Basis Function)核:

K(xi,xj)=exp⁡(−γ∥xi−xj∥2)K(x_i, x_j) = \exp(-\gamma \|x_i - x_j\|^2)

加载的 RBF 产物包含其分类器使用的 gamma。训练还会确定支持向量、系数和正则化。

多类选择(超过 2 个候选)使用 one-vs-rest 分类。

选择流程​

解决什么问题?​

有些工作负载需要轻量的已学习分类器,其决策边界比启发式路由更清晰,运维成本又低于更深的神经选择器。svm 通过在路由特征上学习最大化间隔的查询到模型边界来解决这个问题。

何时使用​

  • 你有该路由的基于 SVM 的选择器产物。
  • 轻量的已学习分类已足以做模型选择。
  • 希望已学习选择带有可解释的决策边界。
  • 查询到模型映射有清晰的非线性模式。

已知限制​

  • 需要从历史查询到模型分配数据预训练。
  • RBF 超参数必须在构建产物时调优;Router 不会在请求时重新调优。
  • 多类 SVM 使用 one-vs-rest,对很多候选可能次优。
  • 不支持在线学习 — 必须为新模式重新训练。

配置​

algorithm:
type: svm

全局 ML 设置​

global:
router:
model_selection:
ml:
models_path: ".cache/ml-models"
embedding_dim: 768
svm:
kernel: rbf
pretrained_path: .cache/ml-models/svm_model.json

参数​

参数类型默认值说明
kernelstringrbf空选择器核:支持 rbf(或 gaussian)和 linear;其他值回退到线性
gammafloat1.0已接受的兼容字段;加载产物时使用产物中存储的 gamma,而不是该值
pretrained_pathstring—预训练 SVM 模型路径(JSON 格式)

训练​

训练流水线见 ML Model Selection README。SVM 模型用 Linfa 的 SVM 实现,在已标注的查询到模型分配数据上训练。

训练示例和标签可能包含敏感请求数据;请相应地治理它们及派生产物。完整示例见: config/fragments/algorithm/selection/svm.yaml。