Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Jev od TypeSafe AI: bez generowania tekstu, tylko skalibrowane decyzje
Przedstawiamy model Jev od TypeSafe AI: przyjmuje stan i typowane pytania (Choice, Score, tak/nie) i zwraca skalibrowane decyzje w 70–500 ms za 0,042 USD/mln tokenów wejściowych, a każda prawidłowa odpowiedź jest zdefiniowana z góry.
The most interesting new AI model doesn't generate a single word of text. Jev by TypeSafe AI takes state + typed questions (Choice, Score, yes/no) and returns calibrated decisions in 70–500ms at $0.042/M input tokens. Every valid answer is defined in advance — so it can't
· 1 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
