Scott Williams prevê que modelos personalizados no estilo Jev (decodificação restrita paralela) tornarão os sistemas de agentes existentes mais eficientes em tokens, criando milionários.
Prediction: millionaires will be made using custom Jev style models (parallel constrained decoding) to make the agent systems companies already run more token efficient. Let me explain with a scenario: Imagine a company already has an agent workflow running where an llm reviews
Gregor Zunic apresenta um agente de navegador open source que combina Browser Use e Jev, encontra voos em 7 segundos por US$ 0,0039, usando novo espaço de ações por passo, espaço de estados DOM e fallback de LLM pequeno para digitar.
O usuário elogia a reprodução extremamente rápida de cada movimento e comando do modelo JEV, acreditando que os bots se tornarão mais inteligentes.
Benchmark preliminar mostra o Jev executando 500 agentes em tempo real em paralelo em um ambiente 3D, com latência média de 500 ms e 35 chamadas de API/s em implementação ingênua.
