Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Generowanie zdań krok po kroku z prawdopodobieństwami Jev
Post wyjaśnia, że umieszczenie Jev w pętli i krok po kroku wybieranie najbardziej prawdopodobnego słowa może generować zdania, wskazując możliwość próbkowania ze słów o wysokim prawdopodobieństwie.
Did you know that, if you put jev in a loop, and simply select the most likely word over a vocab space step by step, you can make jev generate sentences? Since jev returns probabilities, you can actually get quite a few words with high probabilities, and if you sample from those
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
