Content moderation
Guardrail user-generated content before it hits your app.
Experimenta ao vivo
Isto é a coisa real, não uma maqueta. Edita a entrada, carrega em Executar e o Jev devolve cada resposta tipada numa só ida e volta — grátis, sem registo. Agora imagina a mesma chamada disparada sobre milhares de itens em paralelo.
Pick a demo, tweak the input, and hit Run Jev.
As decisões que o Jev toma
Numa só chamada, o Jev avalia cada uma destas — em paralelo, sobre a mesma entrada:
Is this comment safe to publish automatically without human review?
devolve uma probabilidade calibrada de sim/não.
How toxic or hostile is the language?
pontua-a numa escala ordenada:
- friendly / neutral
- mildly rude
- clearly insulting
- hateful or harassing
Which policy area is most relevant?
escolhe uma destas opções:
clean— no policy concernharassment— insults or harassment toward peoplespam— spam or advertisingselfharm— self-harm or violence
O pedido exato
Este é o payload real por trás da demo ao vivo — copia-o, muda o state e já estás a construir:
{
"model": "jev-latest",
"state": "User comment on a public forum: \"honestly this whole community is trash and the mods are clowns, but the tutorial itself was actually really helpful, thanks for posting\"",
"questions": {
"allow": {
"type": "noul",
"instructions": "Is this comment safe to publish automatically without human review?"
},
"toxicity": {
"type": "score",
"instructions": "How toxic or hostile is the language?",
"criteria": [
"friendly / neutral",
"mildly rude",
"clearly insulting",
"hateful or harassing"
]
},
"category": {
"type": "choice",
"instructions": "Which policy area is most relevant?",
"criteria": {
"clean": "no policy concern",
"harassment": "insults or harassment toward people",
"spam": "spam or advertising",
"selfharm": "self-harm or violence"
}
}
}
}Integra-o no teu código
Lê as respostas tipadas e ramifica em código simples — sem análise. Trata automaticamente os casos de alta confiança e encaminha os incertos para um modelo maior ou uma pessoa. É uma só chamada à API e a saída é grátis, por isso faz todas as perguntas que precisas de uma vez.
Constrói o teu
Cada cenário acima é uma só chamada à API. Experimenta qualquer um deles grátis no playground e depois obtém uma chave alojada para o lançar em minutos.