Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Jev skupiony na Astra z automatycznym wnioskowaniem wewnętrznym
Autor podaje, że Jev skupiony na Astra jest dostępny i wystarczy użyć Astra; Jev pozwala wszystkim modelom automatycznie rozróżniać przez wnioskowanie wewnętrzne, i wspomina, że inne modele używają specjalnego configu, a główna wersja jest bardziej złożona.
謎にバズってて悲しい DMでも質問が来たので▼ Astra中心のJevもできてるけど、シンプルにAstraでよい。Jevは全モデルに内部推論で自動判別させてる形で活躍してる。 他モデル搭載してるが、これは通常Verではなく特殊Verのconfigで、一軍仕様はもうちょい仕組みが複雑で違うのでまた紹介しやす。
· 2 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
