← 모든 도구로컬 설정 생성기

유사 Jev 결정 모델을 로컬에서 실행

Jev 자체는 다운로드할 수 없습니다 — 가중치는 비공개이고 호스팅됩니다. 하지만 오픈 생태계는 이제 같은 형태의 셀프 호스팅 가능한 진짜 결정 모델을 제공합니다. 하드웨어를 선택하면 작동하는 로컬 설정까지의 최단 경로를 얻습니다: 설치, 모델, 서버, 그리고 하나의 스크립트로 복사할 수 있는 테스트 호출.

These are independent, open Jev-like decision models (Laya, OpenJev) — not TypeSafe's official Jev weights, which are closed and hosted. Same primitives (choice · score · noul), but you own calibration and quality. Some third-party checkpoints even ship uncalibrated confidence (their MLX build warns about out-of-range temperatures), so validate on your own labelled data before wiring a threshold in production.

Apple Silicon (M1–M4)macOS 14+Python 3.11+~420M paramsmizorewww/laya-mlx ↗

1 · Install the MLX runtime

bash

python3.11 -m venv .venv && source .venv/bin/activate
pip install laya-mlx

2 · Download the model (optional — it auto-downloads on first run)

bash

hf download aac6fef/laya-mlx

3 · Run a typed decision (local inference, in-process)

python

import laya_mlx as laya

agent = laya.load("aac6fef/laya-mlx")
result = agent.predict(
    "I was billed twice. Please refund the duplicate.",
    {
        "department": {
            "type": "choice",
            "instructions": "Who should handle this?",
            "criteria": ["billing", "technical", "sales"],
        }
    },
)
print(result["answers"]["department"])

Laya-MLX runs in-process — there is no HTTP server, you call it from Python. Types: choice · score · noul (calibrated P(true)). For 30+ languages load aac6fef/laya-multilingual-mlx instead.

Prefer the hosted API? Get a key →

무엇을 골라야 하나요?

Mac / Apple Silicon → Laya-MLX. 가장 작고 쉬움: 약 420M 모델이 M 시리즈 Mac에서 인프로세스로 밀리초 만에 실행됩니다. GPU도 서버도 필요 없음. 로컬 개발과 프라이버시에 최적.
Node.js / TypeScript → @receptron/laya. 같은 아이디어를 ONNX를 통해 JS 런타임에서 — Python 전혀 불필요. 스택이 이미 Node라면 최적.
Docker (GPU) → OpenJev. 더 크고 GPU로 제공되는 모델을 Jev 호환 HTTP API로 :8080에서 노출. 드롭인 API 엔드포인트를 원하고 NVIDIA 카드가 있을 때 최적.
NVIDIA bare-metal → OpenJev. 같은 모델을 Docker 없이, vLLM 런타임을 완전히 제어.

이들은 공식 Jev가 아닙니다

Laya와 OpenJev는 타입 지정 결정 아이디어를 오픈 가중치로 재구축한 독립 커뮤니티 프로젝트입니다 — TypeSafe의 Jev가 아니며, 보정과 품질은 각자의 것입니다. 이것이 호스팅 API 대비 진짜 트레이드오프입니다: 로컬은 네트워크 홉이 없고 호출당 비용이 없지만 검증은 당신 몫입니다. 고정되고 보정된, 운영이 필요 없는 결정을 원한다면 호스팅 경로는 POST /api/v1/decide 한 번이면 됩니다.