Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Główna różnica między LLM a Jev
Film wyjaśnia, że typowy LLM generuje tekst lub JSON token po tokenie, każdy token zależy od poprzedniego, co wymaga wielu sekwencyjnych etapów, podczas gdy Jev działa inaczej.
The video is about the main difference between LLMs and Jev. Summary of this tweet from our friend: - A typical LLM generates text or JSON token by token. - Each token depends on the previous one; therefore, the model has to go through multiple sequential stages to produce a
· 91 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
