内容审核

在用户生成内容进入你的应用之前设置护栏。

运行这个演示 ▶获取 API key →

Jev 做出的决策

在一次调用中，Jev 针对同一份输入并行评估以下每一项：

noulallow

这条评论是否可以在无需人工审核的情况下自动发布?

返回一个已校准的是/否概率。

scoretoxicity

这段话的言辞有多恶毒或充满敌意?

在一个有序量表上给它打分：

友好 / 中性
略显无礼
明显在辱骂
仇恨或骚扰

choicecategory

最相关的政策领域是哪一个?

从这些选项中挑一个：

clean — 不涉及任何政策问题
harassment — 针对他人的侮辱或骚扰
spam — 垃圾信息或广告
selfharm — 自残或暴力

确切的请求

这就是实时演示背后真实的载荷——复制它，改一下 state，你就开始构建了：

{
  "model": "jev-latest",
  "state": "公开论坛上的一条用户评论:“说实话这整个社区就是垃圾,版主都是小丑,不过这篇教程本身确实很有用,谢谢分享”",
  "questions": {
    "allow": {
      "type": "noul",
      "instructions": "这条评论是否可以在无需人工审核的情况下自动发布?"
    },
    "toxicity": {
      "type": "score",
      "instructions": "这段话的言辞有多恶毒或充满敌意?",
      "criteria": [
        "友好 / 中性",
        "略显无礼",
        "明显在辱骂",
        "仇恨或骚扰"
      ]
    },
    "category": {
      "type": "choice",
      "instructions": "最相关的政策领域是哪一个?",
      "criteria": {
        "clean": "不涉及任何政策问题",
        "harassment": "针对他人的侮辱或骚扰",
        "spam": "垃圾信息或广告",
        "selfharm": "自残或暴力"
      }
    }
  }
}

把它接进你的代码

读取类型化的答案，用普通代码分支判断——无需解析。自动处理高置信度的情形，把不确定的路由给更大的模型或人工。这只是一次 API 调用，而且输出免费，所以把你需要的每个问题一次都问了吧。

构建你自己的

上面每个场景都是一次 API 调用。在 playground 里免费试用其中任意一个，然后拿一个托管 key 把它上线——无需 waitlist。

运行这个演示 ▶获取 API key →