Jev rispetto ai modelli che generano testo
Jev non genera testo libero. Un video affiancato confronta decisioni parallele e generazione token per token.
Perché Jev potrebbe essere più veloce dei tradizionali LLM
Il post confronta Jev con i tradizionali LLM: gli LLM decodificano in modo autoregressivo token per token, mentre Jev può restituire direttamente un Choice, uno Score o un NOUL, riducendo i passaggi di decodifica e potenzialmente la latenza di inferenza.
Why could Jev be faster than traditional LLMs like ChatGPT? LLMs use autoregressive generation: Token 1 → Token 2 → Token 3 → … Jev can return a direct Choice / Score / NOUL instead. Less decoding → potentially lower AI inference latency. #AI #LLM #Jev #MachineLearning
· 1 likesOpen on X
More like this
Prezzi, valutazioni e origine del nome Jev
Il thread di lancio spiega le valutazioni dei workflow code + AI, il prezzo di input annunciato e i token di output gratuiti.
Modello Jev: generazione di probabilità per le decisioni, 200× più veloce e 400× più economico degli LLM
Questo modello è progettato per il processo decisionale anziché la generazione di testo, generando probabilità per ogni opzione in parallelo invece di risposte token per token. L'autore condivide un esempio semplificato di confronto tra LLM normali e questo modello Jev.
