Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Model decyzyjny w stylu Jev: JSON Schema zamiast listy pytań
Model przyjmuje JSON Schema zamiast listy pytań, ocenia każde niezależne pole w jednym przebiegu, pola zależne czekają na swoją kolej, a generowanie jest opcjonalne dla każdego pola, więc domyślnie nie generuje tokenów.
Here me out a Jev-style decision model that takes a JSON Schema instead of a list of questions one pass scores every independent field. dependent fields wait their turn. generation is a per-field opt-in, so the default never generates a token. You get back guaranteed
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
