Scott Williams prevede che i modelli personalizzati in stile Jev (decodifica vincolata parallela) renderanno i sistemi di agenti aziendali più efficienti in token, creando milionari.
Prediction: millionaires will be made using custom Jev style models (parallel constrained decoding) to make the agent systems companies already run more token efficient. Let me explain with a scenario: Imagine a company already has an agent workflow running where an llm reviews
Gregor Zunic presenta un agente browser open source che combina Browser Use e Jev, trova voli in 7 secondi a 0,0039 $, usando nuovo spazio azioni per passo, spazio stati DOM e fallback LLM piccolo per digitare.
L'utente elogia la riproduzione estremamente rapida di ogni movimento e comando del modello JEV, ritenendo che i bot diventeranno più intelligenti.
Il benchmark preliminare mostra Jev eseguire 500 agent in tempo reale in parallelo in un ambiente 3D, con latenza media di 500 ms e 35 chiamate API/s in un'implementazione naive.
