Jev, el modelo de TypeSafe AI que decide en lugar de escribir, ha pasado en menos de dos meses del acceso anticipado a materia de curso: freeCodeCamp publicó el 29/10/2026 una formación de unas dos horas para construir en PyTorch modelos de decisión con «inferencia solo de prefill», la técnica que explica por qué este tipo de sistemas responde en milisegundos. Casi a la vez, un autor invitado de HackerNoon ha repasado qué es Jev y dónde encaja, con una conclusión prudente: es rápido y barato, pero solo acierta si recibe el contexto adecuado.
Las claves de Jev y la inferencia solo de prefill en 30 segundos
- Qué es: un modelo de TypeSafe AI, lanzado el 15/09/2026, que responde preguntas cerradas con probabilidades y no genera texto.
- La técnica: se queda en la fase de prefill, que lee la entrada completa de una vez, y se salta la generación token a token.
- Precio y velocidad: 0,042 dólares por millón de tokens de entrada y entre 70 y 500 milisegundos por llamada, según la empresa.
- El límite: no razona por pasos ni escribe, y su arquitectura no es pública.
La pieza de HackerNoon, firmada por Shawn Gordon el 16/10/2026, parte de una idea sencilla. Según el autor, Jev no escribe nada: se limita a decidir. TypeSafe lo presenta como su primer «System One model», en referencia al pensamiento rápido e intuitivo que describió Daniel Kahneman en Pensar rápido, pensar despacio. El nombre del modelo, según la propia compañía, viene del economista William Stanley Jevons y de su paradoja: cuando algo se abarata, su uso crece.
noticias.ai ya explicó cómo hacer la primera llamada a Jev. Esta pieza se centra en la mecánica que hay debajo y en lo que se puede comprobar desde fuera.
Qué significa quedarse en la fase de prefill
Un modelo de lenguaje convencional trabaja en dos fases. En la primera, el prefill, procesa todo el texto de entrada a la vez y calcula sus representaciones internas, que guarda en la llamada caché KV (de key-value, clave-valor). En la segunda, la decodificación, genera la respuesta token a token: cada palabra nueva depende de la anterior, así que el proceso es secuencial y es donde se va buena parte del tiempo y del coste.
La inferencia solo de prefill elimina la segunda fase. El modelo lee la entrada y las opciones de respuesta en una única pasada y devuelve directamente una distribución de probabilidad sobre esas opciones. No hay texto que generar ni que analizar después. El curso de freeCodeCamp, presentado por Beau Carnes, enseña a montar esta arquitectura desde cero: clasificar y ejecutar acciones a partir de la evaluación del prompt, comparar diseños de codificador (que leen el texto en ambas direcciones) con diseños de decodificador causal, construir máscaras de atención propias y reutilizar la caché KV cuando muchas peticiones comparten el mismo contexto de sistema.
Conviene matizar dos cosas. La primera, que el artículo de HackerNoon no usa la expresión «solo prefill»: describe el comportamiento (todas las preguntas respondidas en una pasada, sin generar texto, en torno a medio segundo), pero no el mecanismo. La segunda, que TypeSafe no ha publicado ni la arquitectura ni el número de parámetros de Jev. En su blog de lanzamiento habla de una arquitectura nueva, de un muestreador paralelo y de un método de entrenamiento propio, el aprendizaje por refuerzo para decisiones calibradas (RLCD, por sus siglas en inglés). Así que el curso explica la familia de técnicas, no el funcionamiento exacto de Jev. Tampoco ofrece cifras de rendimiento frente a la generación clásica.
Tres tipos de pregunta y una probabilidad para cada respuesta
Jev recibe un «estado», que puede ser texto o un documento JSON, y una o varias preguntas tipadas. Hay tres formatos: elegir una opción entre un máximo de 255 (choice), situar algo en una escala ordenada de 2 a 10 niveles (score) o responder sí o no como probabilidad de sí (noul, abreviatura de Bernoulli). Según Jevals, un sitio de evaluación que se declara independiente de TypeSafe, la ventana de contexto ronda los 32.000 tokens, solo texto, y cada pregunta se responde por separado, sin ver las respuestas de las demás.
La empresa asegura que esas probabilidades están calibradas: una respuesta dada con un 80 % de confianza debería acertar el 80 % de las veces. Eso permite lo que el autor de HackerNoon propone como patrón de uso: automatizar cuando la confianza supera un umbral, por ejemplo el 95 %, y pasar el resto a una persona. TypeSafe sitúa la latencia de extremo a extremo entre 70 y 500 milisegundos y cobra 0,042 dólares por millón de tokens de entrada, con la salida gratuita. La compañía reconoce en su propio blog que no puede demostrar que ese precio no esté subvencionado y que sus pruebas de velocidad se ejecutan desde la costa oeste de Estados Unidos. Las cifras de 193,6 veces más rápido y 444,6 veces más barato que exhibe en su web salen de sus propias evaluaciones de flujos de trabajo, que la empresa sitúa en la parte alta de lo que cabe esperar en producción.
Las pruebas externas dibujan un cuadro más matizado. En las tablas de Jevals publicadas el 18/09/2026, Jev logra un 91,3 % de acierto en PubMedQA (preguntas de sí o no) y un 79,7 % en Banking77 (clasificación de intenciones bancarias), pero en la escala de utilidad de HelpSteer2 ningún modelo supera con claridad el azar. Según el autor de HackerNoon, Mastra probó Jev para clasificar incidencias de GitHub y obtuvo en torno a un 13 % de acierto, porque la prioridad dependía de información que el modelo no veía. La propia Jevals enumera sus puntos débiles: contar, fechas, negaciones, aritmética y razonamiento en varios pasos. Y advierte de que no sirve como frontera de seguridad, porque el texto del estado puede influir en la respuesta.
Alternativas abiertas y dónde lo sitúa el autor
Jev es cerrado y solo se usa por API, con lista de espera, o a través de Vercel AI Gateway. Alrededor ya han surgido modelos que copian su interfaz. El autor de HackerNoon destaca Laya, de la empresa india Convai Innovations: unos 421 millones de parámetros sobre ModernBERT-large, licencia Apache 2.0 y unos 33 milisegundos por pregunta en una GPU T4, con un contexto de 512 tokens. El directorio System One Models confirma esas cifras y añade que su propio creador lo define como una base rápida para especializar, no como un motor de decisión listo para usar. Las puntuaciones comparativas cambian según la edición del índice: el autor cita 6,04 frente a 57,91 de Jev, mientras que la edición 0.4.1 del Jev Decision Index, del 22/10/2026, da a Laya 6,19 en pruebas públicas frente a 60,7 de Jev 1.14. Cloudflare también ha lanzado Clef, sus modelos de decisión de código abierto compatibles con el formato de petición de Jev.
Gordon, que escribe desde el mundo de los catálogos de datos, plantea como idea de diseño (no como integración existente) usar un modelo así en OpenMetadata para clasificar columnas: aplicar una etiqueta si la confianza es alta, enviarla a revisión si es media y no hacer nada si es baja. También lo ve útil como control rápido para decidir si un cambio propuesto por un agente necesita aprobación humana. Pero insiste en la privacidad: usar Jev alojado implica enviar metadatos a la API de TypeSafe, algo delicado si incluyen datos de muestra. Por eso recomienda mantener las validaciones por expresiones regulares y sumas de control, dejar a personas los casos dudosos y empezar con una prueba acotada, como distinguir columnas sensibles de no sensibles.
Preguntas frecuentes
¿Qué es la inferencia solo de prefill?
Es ejecutar solo la primera fase de un modelo, la que procesa toda la entrada de una vez, y leer directamente las probabilidades de un conjunto de respuestas posibles. Se evita la generación token a token, que es secuencial y más lenta.
¿Jev es un modelo de lenguaje como ChatGPT?
No. Jev no escribe texto ni código: devuelve una elección, una puntuación o una probabilidad de sí sobre opciones definidas de antemano por quien hace la petición.
¿Cuánto cuesta usar Jev?
TypeSafe cobra 0,042 dólares por millón de tokens de entrada y no cobra la salida. La empresa admite que no puede demostrar todavía que ese precio no esté subvencionado.
¿Hay alternativas de código abierto a Jev?
Sí. Laya, de Convai Innovations, se publica con licencia Apache 2.0 y funciona en local, y Cloudflare ha lanzado Clef con pesos abiertos. Laya necesita ajuste fino para rendir bien en tareas concretas.
Fuentes:
