Jev rispetto ai modelli che generano testo
Jev non genera testo libero. Un video affiancato confronta decisioni parallele e generazione token per token.
Jev vs Gemini: Test di gestione dell'output strutturato
L'autore ha ampliato il batch a circa 300 domande per chiamata. Jev ha risposto correttamente, mentre Gemini ha rifiutato tutte le richieste prima di generare qualsiasi cosa. L'input era di soli ~55k token in una finestra di contesto di ~1M, indicando un problema nel modo in cui Gemini impone l'output strutturato.
5/7 Then I widened the batch to roughly 300 questions per call. ✅ Jev answered. ❌ Gemini rejected all 300 test requests before generating anything. The input was only ~55k tokens in a ~1M-token context window. The problem was how Gemini enforces structured output using a
· 0 likesOpen on X
More like this
Prezzi, valutazioni e origine del nome Jev
Il thread di lancio spiega le valutazioni dei workflow code + AI, il prezzo di input annunciato e i token di output gratuiti.
Modello Jev: generazione di probabilità per le decisioni, 200× più veloce e 400× più economico degli LLM
Questo modello è progettato per il processo decisionale anziché la generazione di testo, generando probabilità per ogni opzione in parallelo invece di risposte token per token. L'autore condivide un esempio semplificato di confronto tra LLM normali e questo modello Jev.
