Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Pytania typu span w trybie zero-shot w DiffusionGemma-as-Jev
Autor dzieli się pytaniami typu span w trybie zero-shot w DiffusionGemma-as-Jev (djev), nazywając to użytecznym, niehalucynującym prymitywem, wydajność wciąż jest dostrajana.
Zero-shot "span"-style questions in DiffusionGemma-as-Jev (aka djev). Still tuning performance a bit, but this is another very useful, non-hallucinating primitive.
· 11 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
