Jev rispetto ai modelli che generano testo
Jev non genera testo libero. Un video affiancato confronta decisioni parallele e generazione token per token.
Modello Jev: generazione di probabilità per le decisioni, 200× più veloce e 400× più economico degli LLM
Questo modello è progettato per il processo decisionale anziché la generazione di testo, generando probabilità per ogni opzione in parallelo invece di risposte token per token. L'autore condivide un esempio semplificato di confronto tra LLM normali e questo modello Jev.
200× faster and 400× cheaper than llms this model is made for “decision-making” instead of text generation, so it generates probabilities for each option in parallel instead of giving you a response token by token here is a simplified example of normal llms vs this jev thing at
· 5,7K likesOpen on X
More like this
Prezzi, valutazioni e origine del nome Jev
Il thread di lancio spiega le valutazioni dei workflow code + AI, il prezzo di input annunciato e i token di output gratuiti.
Il modello Jev raggiunge 42 dollari per miliardo di token con calcolo parallelo
Il post afferma che Jev utilizza calcolo parallelo non-transformer a 42 dollari per miliardo di token, discute il potenziale impatto su ChatGPT e Anthropic e suggerisce un passaggio a LLM come interfaccia con un backend harness.
