← Alle ToolsLokaler Setup-Generator

Ein Jev-ähnliches Entscheidungsmodell lokal ausführen

Jev selbst kannst du nicht herunterladen — die Gewichte sind geschlossen und gehostet. Aber das offene Ökosystem liefert inzwischen echte, selbst hostbare Entscheidungsmodelle derselben Form. Wähle deine Hardware und erhalte den kürzesten Weg zu einem funktionierenden lokalen Setup: Installieren, Modell, Server und ein Testaufruf, den du als ein Skript kopieren kannst.

These are independent, open Jev-like decision models (Laya, OpenJev) — not TypeSafe's official Jev weights, which are closed and hosted. Same primitives (choice · score · noul), but you own calibration and quality. Some third-party checkpoints even ship uncalibrated confidence (their MLX build warns about out-of-range temperatures), so validate on your own labelled data before wiring a threshold in production.

Apple Silicon (M1–M4)macOS 14+Python 3.11+~420M paramsmizorewww/laya-mlx ↗

1 · Install the MLX runtime

bash

python3.11 -m venv .venv && source .venv/bin/activate
pip install laya-mlx

2 · Download the model (optional — it auto-downloads on first run)

bash

hf download aac6fef/laya-mlx

3 · Run a typed decision (local inference, in-process)

python

import laya_mlx as laya

agent = laya.load("aac6fef/laya-mlx")
result = agent.predict(
    "I was billed twice. Please refund the duplicate.",
    {
        "department": {
            "type": "choice",
            "instructions": "Who should handle this?",
            "criteria": ["billing", "technical", "sales"],
        }
    },
)
print(result["answers"]["department"])

Laya-MLX runs in-process — there is no HTTP server, you call it from Python. Types: choice · score · noul (calibrated P(true)). For 30+ languages load aac6fef/laya-multilingual-mlx instead.

Prefer the hosted API? Get a key →

Welches soll ich wählen?

Mac / Apple Silicon → Laya-MLX. Am kleinsten und einfachsten: ein ~420M-Modell, das in-process auf einem M-Serie-Mac in Millisekunden läuft. Keine GPU, kein Server. Ideal für lokale Entwicklung und Privatsphäre.
Node.js / TypeScript → @receptron/laya. Dieselbe Idee aus einer JS-Runtime über ONNX — ganz ohne Python. Ideal, wenn dein Stack bereits Node ist.
Docker (GPU) → OpenJev. Ein größeres, GPU-bedientes Modell hinter einer Jev-kompatiblen HTTP-API auf :8080. Ideal, wenn du einen einsatzfertigen API-Endpunkt willst und eine NVIDIA-Karte hast.
NVIDIA bare-metal → OpenJev. Dasselbe Modell ohne Docker, für volle Kontrolle über die vLLM-Runtime.

Das ist nicht das offizielle Jev

Laya und OpenJev sind unabhängige Community-Projekte, die die Idee typisierter Entscheidungen auf offenen Gewichten nachbauen — sie sind nicht das Jev von TypeSafe, und ihre Kalibrierung und Qualität sind ihre eigene. Das ist der eigentliche Kompromiss gegenüber der gehosteten API: lokal heißt kein Netzwerk-Hop und keine Kosten pro Aufruf, aber die Validierung liegt bei dir. Willst du fixierte, kalibrierte Entscheidungen ohne Betrieb, ist der gehostete Weg nur ein POST /api/v1/decide entfernt.