接入与路由 · 智能路由
req_7F34C8
质量优先 · 企业内
从请求进入到上游选定,每一步都有清晰策略和可复核结果。
读取应用、部门、场景和模型要求,形成可执行的路由上下文。
按质量、成本、时延、地域和数据边界筛选可用模型资源。
结合实时健康状态完成转发,并把本次决策写入请求记录。
每次选择都会保留候选模型、命中策略、健康状态和最终结果,供运行团队复盘与优化。
继续了解与智能路由直接相关的 Gateway 能力。
用一个兼容接口连接模型厂商、云平台和私有模型。
上游异常时按策略切换,减少业务中断。