Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
4 rzeczy do zrobienia po uzyskaniu dostępu do Jev: pozwól Jevowi najpierw dokonać małego wyboru
Rada: nie zastępuj swojego modelu Jevem, umieść Jev przed nim. Jev najpierw dokonuje małego wyboru, a twój drogi model uruchamia się tylko wtedy, gdy jest naprawdę potrzebny. Jedno narzędzie e-mailowe zamieniło 2 wywołania AI na wiadomość na 1 wywołanie Jev i zachowało normalne funkcje.
4 things to do when you get access to Jev: 1. don't replace your model, put Jev in front of it Jev makes the small choice first, and your expensive model only runs when it's really needed one email tool swapped 2 AI calls per email for 1 Jev call, and kept all their normal
· 467 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
