Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Różniczkowalny IF i logika tensorowa Jev
Post podkreśla dwa szczególne aspekty Jev: implementację logiki tensorowej bez nazywania jej tak, czyniąc argumenty IF różniczkowalnymi, oraz niewaste generowania tokenów na znanym kontekście.
There are two things that are special that Jev did 1. They are doing tensor logic but don’t call it that, which is that they make the args for your IF differentiable 2. They don’t waste gen tokens on context you know 1 is just telling you that true false needs a gradient to be
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
