コンテンツモデレーション

{
  "model": "jev-latest",
  "state": "公開フォーラムでのユーザーコメント: 「正直このコミュニティ全体がゴミだしモデレーターは道化だけど、チュートリアル自体は本当に役立った、投稿してくれてありがとう」",
  "questions": {
    "allow": {
      "type": "noul",
      "instructions": "このコメントは人間のレビューなしで自動的に公開しても安全ですか?"
    },
    "toxicity": {
      "type": "score",
      "instructions": "その言葉遣いはどれくらい有害または敵対的ですか?",
      "criteria": [
        "友好的／中立",
        "軽度に失礼",
        "明確に侮辱的",
        "憎悪的または嫌がらせ"
      ]
    },
    "category": {
      "type": "choice",
      "instructions": "最も関連するポリシー領域はどれですか?",
      "criteria": {
        "clean": "ポリシー上の懸念なし",
        "harassment": "人に対する侮辱や嫌がらせ",
        "spam": "スパムまたは広告",
        "selfharm": "自傷または暴力"
      }
    }
  }
}