经验
概览
经验是自适应使用的在线路由学习证据。它在请求路径上保存在进程内,并由有界结果和遥测汇总。离线配方学习可以导出这些证据用于分析。
主要优势
- 把昂贵的聚合移出请求路径。
- 将结果和遥测转化为紧凑的读取时证据。
- 为自适应提供类型化的已学习模型选择事实位置。
- 在启用回放时,可将详细证据发送到路由回放。
解决什么问题?
部分路由证据需要历史请求:模型适配度、过度使用、提供商故障、延迟、缓存复用和实际成本。在一次请求中读取全部事件会太慢。路由器在内存中更新紧凑的模型经验。启用路由回放时,它还会写入证据供离线分析;持久化需要耐用的回放后端。
何时使用
- 自适应需要来自结果和运行时遥测的聚合证据。
- 运维人员希望离线评估解释冷启动模型质量证据。
- 离线配方学习需要有界证据进行实验。
配置
公开 API 不暴露 experience.enabled、experience.source 或运行时种子包导入字段。若启用自适应,模型经验会包含在 routing_sampling 中。
在线经验按匹配的决策、决策 tier 和模型作为键:
decision_id + decision_tier + model
-> decision_tier + model
-> model
结果摄入会更新面向模型的经验。路由、策略、稳定性、提供商和路由器结果会进入回放诊断和离线配方学习,而不是直接改写模型质量。