Content moderation
Guardrail user-generated content before it hits your app.
Canlı deneyin
Bu gerçek olanı, bir maket değil. Girdiyi düzenleyin, Çalıştır'a basın ve Jev her tipli cevabı tek bir gidiş-dönüşte döndürsün — ücretsiz, kayıt yok. Şimdi aynı çağrının binlerce öğe üzerinde paralel olarak tetiklendiğini hayal edin.
Pick a demo, tweak the input, and hit Run Jev.
Jev'in verdiği kararlar
Tek bir çağrıda Jev bunların her birini değerlendirir — paralel olarak, aynı girdiye karşı:
Is this comment safe to publish automatically without human review?
kalibre edilmiş bir evet/hayır olasılığı döndürür.
How toxic or hostile is the language?
onu sıralı bir ölçekte puanlar:
- friendly / neutral
- mildly rude
- clearly insulting
- hateful or harassing
Which policy area is most relevant?
şu seçeneklerden birini seçer:
clean— no policy concernharassment— insults or harassment toward peoplespam— spam or advertisingselfharm— self-harm or violence
Tam istek
Bu, canlı demonun arkasındaki gerçek payload — kopyalayın, state'i değiştirin ve inşa etmeye başlayın:
{
"model": "jev-latest",
"state": "User comment on a public forum: \"honestly this whole community is trash and the mods are clowns, but the tutorial itself was actually really helpful, thanks for posting\"",
"questions": {
"allow": {
"type": "noul",
"instructions": "Is this comment safe to publish automatically without human review?"
},
"toxicity": {
"type": "score",
"instructions": "How toxic or hostile is the language?",
"criteria": [
"friendly / neutral",
"mildly rude",
"clearly insulting",
"hateful or harassing"
]
},
"category": {
"type": "choice",
"instructions": "Which policy area is most relevant?",
"criteria": {
"clean": "no policy concern",
"harassment": "insults or harassment toward people",
"spam": "spam or advertising",
"selfharm": "self-harm or violence"
}
}
}
}Kodunuza entegre edin
Tipli cevapları okuyun ve düz kodda dallanın — ayrıştırma yok. Yüksek güvenli durumları otomatik ele alın ve belirsiz olanları daha büyük bir modele veya bir insana yönlendirin. Tek bir API çağrısıdır ve çıktı ücretsizdir, bu yüzden ihtiyaç duyduğunuz her soruyu aynı anda sorun.
Kendinizinkini inşa edin
Yukarıdaki her senaryo tek bir API çağrısıdır. Herhangi birini playground'da ücretsiz deneyin, ardından onu dakikalar içinde yayınlamak için barındırılan bir anahtar edinin.