Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Automatyczne trasowanie modeli z Jev: Jev klasyfikuje pracę, nigdy nie wybiera modelu
Omawia projekt automatycznego trasowania modeli w Jev: na początku każdej tury Jev klasyfikuje pracę (rozmowa, pisanie, kodowanie, analiza, ekstrakcja) i wykrywa wymagania wtórne, takie jak użycie narzędzi i ciągłość, podczas gdy wybór modelu odbywa się gdzie indziej.
We built Auto model routing with Jev, but Jev never chooses the model. That distinction is the whole design. At the start of each turn, Jev classifies the work: conversation, writing, coding, analysis or extraction. It also detects secondary requirements, tool usage, continuity
· 2 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
