Scott Williams predice que los modelos personalizados estilo Jev (decodificación restringida en paralelo) harán más eficientes en tokens los sistemas de agentes existentes, creando millonarios.
Prediction: millionaires will be made using custom Jev style models (parallel constrained decoding) to make the agent systems companies already run more token efficient. Let me explain with a scenario: Imagine a company already has an agent workflow running where an llm reviews
Gregor Zunic presenta un agente de navegador de código abierto que combina Browser Use y Jev, encuentra vuelos en 7 segundos por 0,0039 dólares, usando nuevo espacio de acciones por paso, espacio de estados DOM y respaldo de LLM pequeño para escribir.
El usuario elogia la extremadamente rápida reproducción de cada movimiento y comando del modelo JEV, y cree que los bots serán más inteligentes.
El benchmark preliminar muestra a Jev ejecutando 500 agentes en tiempo real en paralelo en un entorno 3D, con 500 ms de latencia promedio y 35 llamadas API/s en una implementación ingenua.
