Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Jev od TypeSafeAI kompresuje kontekst bez streszczania
Post chwali Jev od TypeSafeAI za kompresję kontekstu poprzez filtrowanie historii według ocen zamiast streszczania, redukując 156 000 tokenów do 62 000 za jednym razem, i wyraża nadzieję, że Claude Code i Codex przyjmą to podejście.
This usage is really great. I hope it's implemented in Claude Code and Codex. > Claude Code's context compression, without summarization, reduces 156,000 to 62,000 tokens in one shot. TypeSafeAI's "Jev" The idea of filtering history by scores without summarizing is great
· 399 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
