Content-Moderation

Nutzergenerierte Inhalte absichern, bevor sie in deine App gelangen.

Diese Demo ausführen ▶API-Key holen →

Die Entscheidungen, die Jev trifft

In einem einzigen Aufruf wertet Jev jede davon aus — parallel, gegen dieselbe Eingabe:

noulallow

Kann dieser Kommentar ohne menschliche Prüfung automatisch veröffentlicht werden?

gibt eine kalibrierte Ja/Nein-Wahrscheinlichkeit zurück.

scoretoxicity

Wie toxisch oder feindselig ist die Sprache?

bewertet es auf einer geordneten Skala:

freundlich / neutral
leicht unhöflich
eindeutig beleidigend
hasserfüllt oder belästigend

choicecategory

Welcher Richtlinienbereich ist am relevantesten?

wählt eine dieser Optionen:

clean — kein Richtlinienproblem
harassment — Beleidigungen oder Belästigung von Personen
spam — Spam oder Werbung
selfharm — Selbstverletzung oder Gewalt

Die exakte Anfrage

Dies ist der echte Payload hinter der Live-Demo — kopiere ihn, ändere den state, und du baust schon:

{
  "model": "jev-latest",
  "state": "Nutzerkommentar in einem öffentlichen Forum: \"ehrlich gesagt ist diese ganze Community Müll und die Mods sind Clowns, aber das Tutorial selbst war wirklich hilfreich, danke fürs Posten\"",
  "questions": {
    "allow": {
      "type": "noul",
      "instructions": "Kann dieser Kommentar ohne menschliche Prüfung automatisch veröffentlicht werden?"
    },
    "toxicity": {
      "type": "score",
      "instructions": "Wie toxisch oder feindselig ist die Sprache?",
      "criteria": [
        "freundlich / neutral",
        "leicht unhöflich",
        "eindeutig beleidigend",
        "hasserfüllt oder belästigend"
      ]
    },
    "category": {
      "type": "choice",
      "instructions": "Welcher Richtlinienbereich ist am relevantesten?",
      "criteria": {
        "clean": "kein Richtlinienproblem",
        "harassment": "Beleidigungen oder Belästigung von Personen",
        "spam": "Spam oder Werbung",
        "selfharm": "Selbstverletzung oder Gewalt"
      }
    }
  }
}

Binde es in deinen Code ein

Lies die typisierten Antworten und verzweige in einfachem Code — ohne Parsing. Bearbeite die hochkonfidenten Fälle automatisch und leite die unsicheren an ein größeres Modell oder einen Menschen weiter. Es ist ein einziger API-Aufruf und Output ist kostenlos, stelle also alle Fragen, die du brauchst, auf einmal.

Bau dein eigenes

Jedes Szenario oben ist ein einziger API-Aufruf. Teste jedes davon kostenlos im Playground und hol dir dann einen gehosteten Key, um es auszuliefern — ohne Warteliste.

Diese Demo ausführen ▶API-Key holen →