← 所有用例
模型路由
让 Jev 决定应该由哪个模型来处理请求。
Jev 做出的决策
在一次调用中,Jev 针对同一份输入并行评估以下每一项:
scorecomplexity
这个请求有多复杂?
在一个有序量表上给它打分:
- 微不足道
- 简单
- 中等
- 困难
- 非常困难 / 架构级
choiceroute
应该由哪个模型来处理?
从这些选项中挑一个:
fast— 快速廉价模型 — 微小编辑、格式化、查询balanced— 中等模型 — 常规功能和修复strong— 前沿模型 — 架构、迁移、高难度推理
noulneeds_tools
这很可能需要工具调用(读取文件、运行命令)吗?
返回一个已校准的是/否概率。
确切的请求
这就是实时演示背后真实的载荷——复制它,改一下 state,你就开始构建了:
{
"model": "jev-latest",
"state": "发给 AI 编码 agent 的进线用户请求:“重构我们的鉴权服务以支持多租户 SSO(SAML 和 SCIM),保持向后兼容,并写一份迁移方案。” 可用模型:fast(便宜、小)、balanced(中等)、strong(昂贵、前沿)。",
"questions": {
"complexity": {
"type": "score",
"instructions": "这个请求有多复杂?",
"criteria": [
"微不足道",
"简单",
"中等",
"困难",
"非常困难 / 架构级"
]
},
"route": {
"type": "choice",
"instructions": "应该由哪个模型来处理?",
"criteria": {
"fast": "快速廉价模型 — 微小编辑、格式化、查询",
"balanced": "中等模型 — 常规功能和修复",
"strong": "前沿模型 — 架构、迁移、高难度推理"
}
},
"needs_tools": {
"type": "noul",
"instructions": "这很可能需要工具调用(读取文件、运行命令)吗?"
}
}
}把它接进你的代码
读取类型化的答案,用普通代码分支判断——无需解析。自动处理高置信度的情形,把不确定的路由给更大的模型或人工。这只是一次 API 调用,而且输出免费,所以把你需要的每个问题一次都问了吧。