콘텐츠 검열

사용자 생성 콘텐츠가 앱에 노출되기 전에 가드레일을 적용합니다.

이 데모 실행하기 ▶API 키 받기 →

Jev가 내리는 결정들

한 번의 호출로, Jev는 동일한 입력에 대해 이들 각각을 병렬로 평가합니다:

noulallow

이 댓글은 사람의 검토 없이 자동으로 게시해도 안전합니까?

보정된 예/아니오 확률을 돌려줍니다.

scoretoxicity

표현이 얼마나 유해하거나 적대적입니까?

정렬된 척도 위에서 점수를 매깁니다:

우호적 / 중립적
약간 무례함
명백히 모욕적
혐오 또는 괴롭힘

choicecategory

어떤 정책 영역이 가장 관련이 있습니까?

다음 옵션 중 하나를 고릅니다:

clean — 정책 위반 우려 없음
harassment — 사람을 향한 모욕이나 괴롭힘
spam — 스팸 또는 광고
selfharm — 자해 또는 폭력

정확한 요청

이것이 라이브 데모 뒤에 있는 실제 페이로드입니다 — 복사해서 state를 바꾸면, 바로 만들기 시작입니다:

{
  "model": "jev-latest",
  "state": "공개 포럼의 사용자 댓글: \"솔직히 이 커뮤니티 전체가 쓰레기고 운영진은 광대들이지만, 튜토리얼 자체는 정말 도움이 됐어요, 올려주셔서 감사합니다\"",
  "questions": {
    "allow": {
      "type": "noul",
      "instructions": "이 댓글은 사람의 검토 없이 자동으로 게시해도 안전합니까?"
    },
    "toxicity": {
      "type": "score",
      "instructions": "표현이 얼마나 유해하거나 적대적입니까?",
      "criteria": [
        "우호적 / 중립적",
        "약간 무례함",
        "명백히 모욕적",
        "혐오 또는 괴롭힘"
      ]
    },
    "category": {
      "type": "choice",
      "instructions": "어떤 정책 영역이 가장 관련이 있습니까?",
      "criteria": {
        "clean": "정책 위반 우려 없음",
        "harassment": "사람을 향한 모욕이나 괴롭힘",
        "spam": "스팸 또는 광고",
        "selfharm": "자해 또는 폭력"
      }
    }
  }
}

코드에 연결하기

타입이 지정된 답을 읽고 평범한 코드로 분기하세요 — 파싱 없이. 신뢰도 높은 경우는 자동 처리하고 불확실한 경우는 더 큰 모델이나 사람에게 라우팅하세요. API 호출 한 번이고 출력은 무료이므로, 필요한 모든 질문을 한 번에 물어보세요.

직접 만들어 보기

위의 모든 시나리오는 단 한 번의 API 호출입니다. 플레이그라운드에서 무엇이든 무료로 사용해 본 뒤, 호스티드 키를 받아 배포하세요 — 대기자 명단 없이.

이 데모 실행하기 ▶API 키 받기 →