Jev frente a los modelos generadores de texto
Jev no genera texto libre. Un video comparativo explica la diferencia entre decisiones paralelas y generación token por token.
¿Por qué Jev es ~200 veces más rápido que un juez LLM?
Jev no tiene etapa de decodificación; la respuesta sale de una sola pasada de prefill, por lo que es unas 200 veces más rápido que un juez LLM tradicional.
Why is Jev ~200x faster than an LLM judge? Short answer: it has no decode stage. The answer comes out of a single prefill pass. 🧵
· 0 likesOpen on X
More like this
Precios, evaluaciones y el nombre Jev
El hilo de lanzamiento explica evaluaciones de flujos code + AI, el precio de entrada anunciado y los tokens de salida gratuitos.
Modelo Jev: generación de probabilidades para decisiones, 200× más rápido y 400× más barato que los LLM
Este modelo está diseñado para la toma de decisiones en lugar de la generación de texto, generando probabilidades para cada opción en paralelo en vez de respuestas token a token. El autor comparte un ejemplo simplificado de LLM normales frente a este modelo Jev.
