コンテンツモデレーション

ユーザー生成コンテンツをアプリに届く前にガードします。

このデモを実行 ▶API キーを取得する →

Jev が下す意思決定

1 回の呼び出しで、Jev はこれらのそれぞれを — 同じ入力に対して並列に — 評価します:

noulallow

このコメントは人間のレビューなしで自動的に公開しても安全ですか?

較正済みの yes/no の確率を返します。

scoretoxicity

その言葉遣いはどれくらい有害または敵対的ですか?

順序付きの尺度で評価します:

友好的／中立
軽度に失礼
明確に侮辱的
憎悪的または嫌がらせ

choicecategory

最も関連するポリシー領域はどれですか?

次の選択肢の中から 1 つを選びます:

clean — ポリシー上の懸念なし
harassment — 人に対する侮辱や嫌がらせ
spam — スパムまたは広告
selfharm — 自傷または暴力

実際のリクエスト

これがライブデモの背後にある本物のペイロードです — コピーして、state を変えれば、もう構築できています:

{
  "model": "jev-latest",
  "state": "公開フォーラムでのユーザーコメント: 「正直このコミュニティ全体がゴミだしモデレーターは道化だけど、チュートリアル自体は本当に役立った、投稿してくれてありがとう」",
  "questions": {
    "allow": {
      "type": "noul",
      "instructions": "このコメントは人間のレビューなしで自動的に公開しても安全ですか?"
    },
    "toxicity": {
      "type": "score",
      "instructions": "その言葉遣いはどれくらい有害または敵対的ですか?",
      "criteria": [
        "友好的／中立",
        "軽度に失礼",
        "明確に侮辱的",
        "憎悪的または嫌がらせ"
      ]
    },
    "category": {
      "type": "choice",
      "instructions": "最も関連するポリシー領域はどれですか?",
      "criteria": {
        "clean": "ポリシー上の懸念なし",
        "harassment": "人に対する侮辱や嫌がらせ",
        "spam": "スパムまたは広告",
        "selfharm": "自傷または暴力"
      }
    }
  }
}

コードに組み込む

型付きの答えを読んで、素のコードで分岐します — 解析は不要です。確信度の高いケースは自動処理し、不確かなものはより大きなモデルや人へ振り分けます。1 回の API 呼び出しで出力は無料なので、必要な質問はすべて一度に投げてください。

自分のものを作る

上のどのシナリオも 1 回の API 呼び出しです。プレイグラウンドでどれでも無料で試してから、ホスト型キーを取得してそのまま本番投入できます — ウェイトリストなし。

このデモを実行 ▶API キーを取得する →