콘텐츠 검열

사용자 생성 콘텐츠가 앱에 노출되기 전에 가드레일을 적용합니다.

라이브로 사용해 보기

이것은 목업이 아니라 실제입니다. 입력을 편집하고 실행을 누르면 Jev가 한 번의 왕복으로 모든 타입 지정 답변을 반환합니다 — 무료, 가입 불필요. 이제 같은 호출이 수천 개의 항목에 병렬로 실행되는 것을 상상해 보세요.

POST jevtypesafeai.com/api/v1/decide

state — 소프트웨어가 Jev에 전달하는 입력82c

questions — 돌려받고 싶은 타입 지정 결정들

noulallow

이 댓글은 사람의 검토 없이 자동으로 게시해도 안전합니까?

→ 확률 0.0 … 1.0

scoretoxicity

표현이 얼마나 유해하거나 적대적입니까?

→ 0…3 · 4 단계

choicecategory

어떤 정책 영역이 가장 관련이 있습니까?

→ 다음 중 하나: clean, harassment, spam, selfharm

실제 API · 무료 · 가입 불필요

타입이 지정되고 보정된 출력이 여기에 나타납니다.
데모를 고르고, 입력을 수정한 뒤 눌러보세요 Jev 실행.

API 키 받기 →← 모든 활용 사례

Jev가 내리는 결정들

한 번의 호출로, Jev는 동일한 입력에 대해 이들 각각을 병렬로 평가합니다:

noulallow

이 댓글은 사람의 검토 없이 자동으로 게시해도 안전합니까?

보정된 예/아니오 확률을 돌려줍니다.

scoretoxicity

표현이 얼마나 유해하거나 적대적입니까?

정렬된 척도 위에서 점수를 매깁니다:

우호적 / 중립적
약간 무례함
명백히 모욕적
혐오 또는 괴롭힘

choicecategory

어떤 정책 영역이 가장 관련이 있습니까?

다음 옵션 중 하나를 고릅니다:

clean — 정책 위반 우려 없음
harassment — 사람을 향한 모욕이나 괴롭힘
spam — 스팸 또는 광고
selfharm — 자해 또는 폭력

정확한 요청

이것이 라이브 데모 뒤에 있는 실제 페이로드입니다 — 복사해서 state를 바꾸면, 바로 만들기 시작입니다:

{
  "model": "jev-latest",
  "state": "공개 포럼의 사용자 댓글: \"솔직히 이 커뮤니티 전체가 쓰레기고 운영진은 광대들이지만, 튜토리얼 자체는 정말 도움이 됐어요, 올려주셔서 감사합니다\"",
  "questions": {
    "allow": {
      "type": "noul",
      "instructions": "이 댓글은 사람의 검토 없이 자동으로 게시해도 안전합니까?"
    },
    "toxicity": {
      "type": "score",
      "instructions": "표현이 얼마나 유해하거나 적대적입니까?",
      "criteria": [
        "우호적 / 중립적",
        "약간 무례함",
        "명백히 모욕적",
        "혐오 또는 괴롭힘"
      ]
    },
    "category": {
      "type": "choice",
      "instructions": "어떤 정책 영역이 가장 관련이 있습니까?",
      "criteria": {
        "clean": "정책 위반 우려 없음",
        "harassment": "사람을 향한 모욕이나 괴롭힘",
        "spam": "스팸 또는 광고",
        "selfharm": "자해 또는 폭력"
      }
    }
  }
}

코드에 연결하기

타입이 지정된 답을 읽고 평범한 코드로 분기하세요 — 파싱 없이. 신뢰도 높은 경우는 자동 처리하고 불확실한 경우는 더 큰 모델이나 사람에게 라우팅하세요. API 호출 한 번이고 출력은 무료이므로, 필요한 모든 질문을 한 번에 물어보세요.

직접 만들어 보기

위의 모든 시나리오는 단 한 번의 API 호출입니다. 플레이그라운드에서 무엇이든 무료로 사용해 본 뒤, 호스티드 키를 받아 몇 분 만에 배포하세요.

이 데모 실행하기 ▶API 키 받기 →