Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Czym jest Jev? Dlaczego LLM nagle wydają się wolne i drogie
Ten artykuł wyjaśnia, czym jest Jev i dlaczego istniejące LLM wydają się przy nim wolne i drogie.
Everybody Is Talking About Jev. Here’s What It Is, and Why LLMs Suddenly Look Slow and Expensive Read Here: https://medium.com/@neuraldev/everybody-is-talking-about-jev-heres-what-it-is-and-why-llms-suddenly-look-slow-and-expensive-138a96577982…
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
