Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Czy Jev może zastąpić LLM w podejmowaniu decyzji AI?
Autor po przeczytaniu o Jevie podkreśla, że Jev przyjmuje dane wejściowe i stałe opcje, a zwraca prawdopodobieństwa, zastanawiając się, czy każda decyzja AI wymaga LLM.
Recently I was reading about Jev, and one idea stood out. We use LLMs for generation, but many AI systems just need to make a decision. Give Jev an input + fixed choices, and it returns probabilities. It got me thinking: Do we really need an LLM for every AI decision?
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
