Scott Williams förutspår att anpassade Jev-modeller (parallell begränsad avkodning) gör befintliga agentsystem mer token-effektiva och skapar miljonärer.
Prediction: millionaires will be made using custom Jev style models (parallel constrained decoding) to make the agent systems companies already run more token efficient. Let me explain with a scenario: Imagine a company already has an agent workflow running where an llm reviews
Gregor Zunic visar en öppen källkods-webbläsaragent som kombinerar Browser Use och Jev, hittar flyg på 7 sekunder för 0,0039 $, med ny åtgärdsrymd per steg, DOM-tillståndsrymd och liten LLM-fallback för att skriva.
Användaren berömmer JEV-modellen för dess extremt snabba reproduktion av varje rörelse och kommando, och tror att botar kommer att bli smartare.
Preliminär benchmark visar att Jev kör 500 realtidsagenter parallellt i en 3D-miljö, med 500 ms genomsnittlig latens och 35 API-anrop/s i en naiv implementation.
