← 所有用例

内容审核

在用户生成内容进入你的应用之前设置护栏。

在线试用

这是真实的东西,不是模型演示。编辑输入、点击运行,Jev 会在一次往返中返回每一个类型化答案——免费、无需注册。现在想象同一次调用并行地跑在数千条数据上。

POST jevtypesafeai.com/api/v1/decide
state — 软件传给 Jev 的输入53c
questions — 你想拿回的类型化决策
noulallow
这条评论是否可以在无需人工审核的情况下自动发布?
→ 概率 0.0 … 1.0
scoretoxicity
这段话的言辞有多恶毒或充满敌意?
→ 0…3 · 4 个等级
choicecategory
最相关的政策领域是哪一个?
→ 其中之一: clean, harassment, spam, selfharm
真实 API · 免费 · 无需注册
类型化、已校准的输出将显示在这里。
选一个示例,调整输入,然后点击 运行 Jev.
获取 API key →← 所有用例

Jev 做出的决策

在一次调用中,Jev 针对同一份输入并行评估以下每一项:

noulallow

这条评论是否可以在无需人工审核的情况下自动发布?

返回一个已校准的是/否概率。

scoretoxicity

这段话的言辞有多恶毒或充满敌意?

在一个有序量表上给它打分:

  1. 友好 / 中性
  2. 略显无礼
  3. 明显在辱骂
  4. 仇恨或骚扰
choicecategory

最相关的政策领域是哪一个?

从这些选项中挑一个:

  • clean — 不涉及任何政策问题
  • harassment — 针对他人的侮辱或骚扰
  • spam — 垃圾信息或广告
  • selfharm — 自残或暴力

确切的请求

这就是实时演示背后真实的载荷——复制它,改一下 state,你就开始构建了:

{
  "model": "jev-latest",
  "state": "公开论坛上的一条用户评论:“说实话这整个社区就是垃圾,版主都是小丑,不过这篇教程本身确实很有用,谢谢分享”",
  "questions": {
    "allow": {
      "type": "noul",
      "instructions": "这条评论是否可以在无需人工审核的情况下自动发布?"
    },
    "toxicity": {
      "type": "score",
      "instructions": "这段话的言辞有多恶毒或充满敌意?",
      "criteria": [
        "友好 / 中性",
        "略显无礼",
        "明显在辱骂",
        "仇恨或骚扰"
      ]
    },
    "category": {
      "type": "choice",
      "instructions": "最相关的政策领域是哪一个?",
      "criteria": {
        "clean": "不涉及任何政策问题",
        "harassment": "针对他人的侮辱或骚扰",
        "spam": "垃圾信息或广告",
        "selfharm": "自残或暴力"
      }
    }
  }
}

把它接进你的代码

读取类型化的答案,用普通代码分支判断——无需解析。自动处理高置信度的情形,把不确定的路由给更大的模型或人工。这只是一次 API 调用,而且输出免费,所以把你需要的每个问题一次都问了吧。

构建你自己的

上面每个场景都是一次 API 调用。在 playground 里免费试用其中任意一个,然后拿一个托管 key 几分钟把它上线。

运行这个演示 ▶获取 API key →
内容审核 — 一个带实时演示的 Jev 用例 · Jev by TypeSafe AI