跳到主要内容
版本:最新版(未发布)

全局配置

概览​

global: 包含路由器级设置和共享基础设施。它是路由局部 routing: 树的对应物:在 global: 下定义一次服务或存储,然后通过信号、算法或插件让各路由选择加入。

主要优势​

  • 为所有配方和路由定义一次共享基础设施。
  • 将路由局部策略与平台级服务分开。
  • 明确模型、存储和外部服务依赖。

解决什么问题?​

嵌入运行时、API、存储后端、可观测性和辅助服务是共享资源。把它们放在决策之外,可以避免重复连接,并使数据和信任边界可见。

何时使用​

当行为或基础设施由多个配方共享时,使用 global:。将路由匹配、候选模型、算法和插件放在 routing: 中。全局设置在配方之间共享;信号、投影和决策以配方为范围,算法和插件属于各个决策。

配置​

global:
services:
observability:
metrics:
enabled: true
stores:
response_cache:
enabled: true
backend_type: memory

全局配置有五组:

组负责指南
global.routerRouter 引擎控制、选择默认值、流式 body 策略、学习算法、路由学习
global.servicesAPI、Response API、可观测性、authz、速率限制、管理 API、启动状态、回放API 与可观测性
global.stores响应缓存、memory、向量存储存储与工具
global.integrations工具目录和 Looper 运行时/状态存储与工具
global.model_catalog嵌入、系统模型、外部辅助、知识库、能力模块Router 运行时

入口和命名配方是顶层对象,而不是全局设置;见虚拟模型。 远程文本嵌入见运行时嵌入。

运维边界​

  • 覆盖应保持稀疏;省略的字段继承 Router 默认值。
  • 将凭据放在环境变量或 Kubernetes Secrets 中,而不是字面 YAML 值。
  • 持久存储可能包含提示词、响应、嵌入、记忆或回放记录。请有意设置后端认证、传输安全、保留策略和租户/用户范围。
  • 内置推理行为来自 providers.models[].catalog。自托管模型可以选择内置家族,或在 providers.models[].reasoning 中定义内联行为;两者都不属于 global:。
  • 完整配置参考见 config/config.yaml。