Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Budowanie rerankera na Jev: skalibrowana pewność jako sygnał przycinania i bramkowania
Dzieli się doświadczeniem z budowy rerankera na Jev: rzeczywiste prawdopodobieństwo zamienia wynik w sygnał przycinania i bramkowania, a nie tylko ranking, i omawia rozszerzenie skalibrowanej pewności na typy pierwotne.
Extending calibrated confidence to primitive types is the natural next step -- we saw the same shape building a reranker on Jev: a real probability turns the score into a prune-and-gate signal, not just a rank.
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
