Skip to content

Providers 与模型策略

目标

让模型选择从“凭感觉”变成“按任务类型分层配置”。

参考:

推荐配置思路

  • 默认模型:兼顾质量与成本,用于日常任务
  • 高质量模型:用于复杂编码、架构设计、关键审查
  • 低成本模型:用于分类、改写、摘要类批处理

最小可维护策略

  1. 先定义 agents.defaults.model.primary
  2. 再按 agent 场景做差异化配置
  3. 对高成本任务启用触发条件(避免滥用)

示例(概念):

  • dev-agent:偏高质量模型
  • ops-agent:偏稳定与响应快模型
  • pm-agent:偏总结与流程模型

Failover 建议

  • 主模型不可用时,降级到兼容模型
  • 保持工具策略与输出约束一致,减少降级副作用
  • 记录降级事件,后续复盘并优化路由

成本与质量协同

开发者负责:

  • 调整技术参数与 fallback 策略

产品经理负责:

  • 定义任务 SLA 与预算上限
  • 决定“哪些任务必须高质量模型”