Content moderation
Guardrail user-generated content before it hits your app.
Попробуйте вживую
Это настоящее, а не макет. Отредактируйте ввод, нажмите «Запустить», и Jev вернёт каждый типизированный ответ за один round trip — бесплатно, без регистрации. А теперь представьте тот же вызов, запущенный по тысячам элементов параллельно.
Pick a demo, tweak the input, and hit Run Jev.
Решения, которые принимает Jev
За один вызов Jev оценивает каждое из них — параллельно, на одном и том же вводе:
Is this comment safe to publish automatically without human review?
возвращает откалиброванную вероятность да/нет.
How toxic or hostile is the language?
оценивает это по упорядоченной шкале:
- friendly / neutral
- mildly rude
- clearly insulting
- hateful or harassing
Which policy area is most relevant?
выбирает один из этих вариантов:
clean— no policy concernharassment— insults or harassment toward peoplespam— spam or advertisingselfharm— self-harm or violence
Точный запрос
Это реальная полезная нагрузка за живым демо — скопируйте её, измените state, и вы уже строите:
{
"model": "jev-latest",
"state": "User comment on a public forum: \"honestly this whole community is trash and the mods are clowns, but the tutorial itself was actually really helpful, thanks for posting\"",
"questions": {
"allow": {
"type": "noul",
"instructions": "Is this comment safe to publish automatically without human review?"
},
"toxicity": {
"type": "score",
"instructions": "How toxic or hostile is the language?",
"criteria": [
"friendly / neutral",
"mildly rude",
"clearly insulting",
"hateful or harassing"
]
},
"category": {
"type": "choice",
"instructions": "Which policy area is most relevant?",
"criteria": {
"clean": "no policy concern",
"harassment": "insults or harassment toward people",
"spam": "spam or advertising",
"selfharm": "self-harm or violence"
}
}
}
}Встройте это в свой код
Читайте типизированные ответы и ветвитесь обычным кодом — без разбора. Автоматически обрабатывайте случаи с высокой уверенностью и направляйте неопределённые к более крупной модели или человеку. Это один вызов API, а вывод бесплатен, так что задавайте сразу все нужные вопросы.
Постройте своё
Каждый сценарий выше — это один вызов API. Попробуйте любой из них бесплатно в playground, затем получите размещённый ключ, чтобы выпустить его за минуты.