Moderación de contenido
Pon barreras al contenido generado por usuarios antes de que llegue a tu app.
Las decisiones que toma Jev
En una sola llamada, Jev evalúa cada una de estas — en paralelo, sobre la misma entrada:
¿Es seguro publicar este comentario automáticamente sin revisión humana?
devuelve una probabilidad calibrada de sí/no.
¿Qué tan tóxico u hostil es el lenguaje?
la califica en una escala ordenada:
- amistoso / neutral
- ligeramente grosero
- claramente insultante
- odioso o acosador
¿Qué área de política es más relevante?
elige una de estas opciones:
clean— sin problema de políticaharassment— insultos o acoso hacia personasspam— spam o publicidadselfharm— autolesión o violencia
La petición exacta
Este es el payload real detrás de la demo en vivo — cópialo, cambia el state y ya estás construyendo:
{
"model": "jev-latest",
"state": "Comentario de un usuario en un foro público: \"honestamente toda esta comunidad es basura y los moderadores son unos payasos, pero el tutorial en sí fue realmente muy útil, gracias por publicarlo\"",
"questions": {
"allow": {
"type": "noul",
"instructions": "¿Es seguro publicar este comentario automáticamente sin revisión humana?"
},
"toxicity": {
"type": "score",
"instructions": "¿Qué tan tóxico u hostil es el lenguaje?",
"criteria": [
"amistoso / neutral",
"ligeramente grosero",
"claramente insultante",
"odioso o acosador"
]
},
"category": {
"type": "choice",
"instructions": "¿Qué área de política es más relevante?",
"criteria": {
"clean": "sin problema de política",
"harassment": "insultos o acoso hacia personas",
"spam": "spam o publicidad",
"selfharm": "autolesión o violencia"
}
}
}
}Intégralo en tu código
Lee las respuestas tipadas y ramifica en código plano — sin parseo. Gestiona automáticamente los casos de alta confianza y deriva los inciertos a un modelo más grande o a una persona. Es una sola llamada a la API y la salida es gratis, así que haz todas las preguntas que necesites de una vez.
Construye el tuyo
Cada escenario de arriba es una sola llamada a la API. Prueba cualquiera de ellos gratis en el playground y luego obtén una clave alojada para lanzarlo — sin lista de espera.