Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Jev od TypeSafe AI: decyzje jako tak/nie, wybór lub wynik zamiast tekstu
Przedstawia model Jev od TypeSafe AI: nie generuje słów, zwraca tak/nie, wybór lub wynik z prawdopodobieństwami w 70–500 ms za 0,042 USD za milion.
Most LLM calls inside agents are decisions dressed up as text. The industry decided that intelligence has to speak in full sentences. Jev from TypeSafe AI generates zero words. It returns a yes/no, a choice or a score with probabilities in 70 to 500 ms, at $0.042 per million
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
