Cuando un pipeline necesita una decisión — qué cola, permitir o denegar, qué etiqueta — unos Jev decision models responden en una pasada con una probabilidad adjunta. Seis checkpoints llegaron en local con una semana de diferencia entre sí: cinco permisivos, uno no comercial. Úsalos para decidir, nunca para justificar — y pon a prueba las cifras antes de fiarte de ellas.
Línea de honestidad al frente: esta ola tiene días de vida — leí el expediente, no lo ejecuté. Fuentes: el anuncio de Ollama, las notas 0.6.0 de llama.cpp, las fichas de los checkpoints.
El banco con latencias de verdad es la continuación.
Enrutamiento, filtros, clasificar → un decision model. Un modelo diminuto (144M–27B) devuelve {label, probability} en una pasada — nada de prosa que analizar.
Ambos motores se hicieron locales en una semana: Ollama el 29 de septiembre, el /v1/systemone de llama.cpp en la 0.6.0 el 5 de octubre.
Revisa la licencia antes de uso comercial — OpenJev es CC BY-NC; los otros cinco vienen bajo Apache-2.0.
Los modelos de chat responden todo con prosa — la forma equivocada para la mitad de lo que los pipelines necesitan. Un router quiere qué cola; un filtro quiere permitir o denegar, cuánta certeza.
Un clasificador quiere una de seis etiquetas.
Pide una decisión a un modelo de chat: una frase que significa lo correcto — normalmente — en palabras distintas cada vez, más un paso de análisis que falla en silencio.
Uno separa el correo y escribe un ensayo por carta. El otro te entrega una bandeja: "seguro al 87% — facturas". ¿A quién le confías las 6 de la mañana?
LA FORMA EQUIVOCADA · pídele a un modelo de chat
LA FORMA CORRECTA · pídele a un decision model
La función silenciosa: la probabilidad es la respuesta. 0.51 y 0.99 son decisiones distintas — pon la línea donde actuar le gana a escalar, y la bandeja se ordena sola.
a chat model that says "this is probably billing" hides its own calibration — one phrasing, once. a decision model hands you the number; whether it tells the truth on YOUR labels is not in the release notes. that is what the bench is for.
"Jev" es el contrato de API: entra una pregunta, lista fija de opciones, probabilidad por opción. TypeSafe lo definió; las herramientas locales lo adoptaron en una semana.
Ollama lo envió el 29 de septiembre — la v0.35 ganó /v1/systemone, con Nimble y Tev1 descargables desde el lanzamiento.
llama.cpp siguió en la 0.6.0 (5 de octubre): el mismo endpoint, cinco GGUF abiertos — Julia-1, Laya, Kev-4B, lev, OpenJev — Nimble días después.
Diminuto: de 144M a 27B parámetros; los modelos de chat arrancan con 30 veces eso. Lo pequeño es el punto — una decisión es una pasada, y la instantaneidad cambia qué tareas preguntan.
Una sola comparación pública de exactitud existe — los 13 datasets de Bespoke Labs, 3,880 decisiones etiquetadas por humanos: Nimble 75.7%, Tev1-4B 73.3%, Tev1-0.8B 63.5%, Jev alojado 1.13 en 76.0%.
Cifras vecinas al proveedor — un punto de partida. El banco que importa corre sobre TUS etiquetas.
imagínalo: un modelo de chat es un consultor senior que agendas por horas. un decision model es el sello del mostrador — solo dice a qué bandeja va, y nunca se cansa. el tamaño es el sueldo: el 144M hace el trabajo por centavos; pagas el 27B solo cuando el trabajo tiene que mirar imágenes.
La repisa de llama.cpp — los seis checkpoints que su endpoint 0.6.0 sirve. La librería de Ollama trae su propio juego: Nimble, Tev1, Laya, Clef.
Filtra por licencia: OpenJev es la entrada NC. Un runtime MIT no cambia lo que los pesos permiten.
| Checkpoint | Tamaño | Licencia | Notas |
|---|---|---|---|
| Julia-1 | 144M | Apache-2.0 | 2–20 opciones, límite combinado de 8,192 tokens |
| Laya | 421M | Apache-2.0 | enrutamiento en inglés; no asumas multilingüe |
| lev | 4B | Apache-2.0 | Decisiones de texto |
| Kev-4B | 4B | Apache-2.0 | Preprocesado de fechas de referencia no incluido |
| Nimble | 9B | Apache-2.0 | LoRA sobre Qwen3.5-9B; solo texto en local |
| OpenJev | 27B | CC BY-NC 4.0 | Entrada de visión vía su proyector; no comercial |
Una séptima forma, Clef, llegó en la misma release 0.6.0 (Apache-2.0, texto y visión); la línea Clef de Cloudflare también se abastece de Ollama. Misma idea, más puertas.
La escalera de tamaños: 144M–421M en CPU ocioso para enrutamiento limpio; 4B para etiquetas sutiles; 27B añade ojos. Corre nvidia-smi --query-gpu=memory.total --format=csv,noheader — cualquier tarjeta califica.
Encaja cuando la salida es una decisión: enrutamiento de peticiones (ticket → billing / sales / abuse), filtros (permitir-o-denegar, con confianza), triaje documental a volumen.
Clasifica con el modelo pequeño; gasta tokens del modelo grande solo en lo que él señale.
No encaja cuando necesitas razones. Una etiqueta con probabilidad no trae razones adjuntas. ¿Necesitas el "por qué"? Vuelve a un modelo de chat — o a los documentos.
No encaja cuando necesitas verdad por consenso. El acuerdo no es verificación — una respuesta errada y unánime llega en la voz más confiada de todas.
Ese es el fallo que nuestros libros de registro existen para cazar.
verifica la forma en tu máquina: ollama run qwen3:0.6b "Reply YES or NO: is 7 prime?" — una respuesta de un solo token sin ensayo adjunto significa que la forma funciona.
fin de la sala del tribunal · nada descargado · todo en local