跳到主要内容
版本:v0.4

经验

概览​

经验是自适应使用的在线路由学习证据。它在请求路径上保存在进程内,并由有界结果和遥测汇总。离线配方学习可以导出这些证据用于分析。

主要优势​

  • 把昂贵的聚合移出请求路径。
  • 将结果和遥测转化为紧凑的读取时证据。
  • 为自适应提供类型化的已学习模型选择事实位置。
  • 在启用回放时,可将详细证据发送到路由回放。

解决什么问题?​

部分路由证据需要历史请求:模型适配度、过度使用、提供商故障、延迟、缓存复用和实际成本。在一次请求中读取全部事件会太慢。路由器在内存中更新紧凑的模型经验。启用路由回放时,它还会写入证据供离线分析;持久化需要耐用的回放后端。

何时使用​

  • 自适应需要来自结果和运行时遥测的聚合证据。
  • 运维人员希望离线评估解释冷启动模型质量证据。
  • 离线配方学习需要有界证据进行实验。

配置​

公开 API 不暴露 experience.enabled、experience.source 或运行时种子包导入字段。若启用自适应,模型经验会包含在 routing_sampling 中。

在线经验按匹配的决策、决策 tier 和模型作为键:

decision_id + decision_tier + model
-> decision_tier + model
-> model

结果摄入会更新面向模型的经验。路由、策略、稳定性、提供商和路由器结果会进入回放诊断和离线配方学习,而不是直接改写模型质量。