← 所有用例

模型路由

让 Jev 决定应该由哪个模型来处理请求。

运行这个演示 ▶获取 API key →

Jev 做出的决策

在一次调用中,Jev 针对同一份输入并行评估以下每一项:

scorecomplexity

这个请求有多复杂?

在一个有序量表上给它打分:

  1. 微不足道
  2. 简单
  3. 中等
  4. 困难
  5. 非常困难 / 架构级
choiceroute

应该由哪个模型来处理?

从这些选项中挑一个:

  • fast — 快速廉价模型 — 微小编辑、格式化、查询
  • balanced — 中等模型 — 常规功能和修复
  • strong — 前沿模型 — 架构、迁移、高难度推理
noulneeds_tools

这很可能需要工具调用(读取文件、运行命令)吗?

返回一个已校准的是/否概率。

确切的请求

这就是实时演示背后真实的载荷——复制它,改一下 state,你就开始构建了:

{
  "model": "jev-latest",
  "state": "发给 AI 编码 agent 的进线用户请求:“重构我们的鉴权服务以支持多租户 SSO(SAML 和 SCIM),保持向后兼容,并写一份迁移方案。” 可用模型:fast(便宜、小)、balanced(中等)、strong(昂贵、前沿)。",
  "questions": {
    "complexity": {
      "type": "score",
      "instructions": "这个请求有多复杂?",
      "criteria": [
        "微不足道",
        "简单",
        "中等",
        "困难",
        "非常困难 / 架构级"
      ]
    },
    "route": {
      "type": "choice",
      "instructions": "应该由哪个模型来处理?",
      "criteria": {
        "fast": "快速廉价模型 — 微小编辑、格式化、查询",
        "balanced": "中等模型 — 常规功能和修复",
        "strong": "前沿模型 — 架构、迁移、高难度推理"
      }
    },
    "needs_tools": {
      "type": "noul",
      "instructions": "这很可能需要工具调用(读取文件、运行命令)吗?"
    }
  }
}

把它接进你的代码

读取类型化的答案,用普通代码分支判断——无需解析。自动处理高置信度的情形,把不确定的路由给更大的模型或人工。这只是一次 API 调用,而且输出免费,所以把你需要的每个问题一次都问了吧。

构建你自己的

上面每个场景都是一次 API 调用。在 playground 里免费试用其中任意一个,然后拿一个托管 key 把它上线——无需 waitlist。

运行这个演示 ▶获取 API key →
模型路由 — 一个带实时演示的 Jev 用例 · Jev by TypeSafe AI