Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Jev ładuje umiejętności na żądanie, utrzymując kontekst w czystości
Post sugeruje, aby Jev klasyfikował, które umiejętności ładować na żądanie, utrzymując listę umiejętności poza oknem kontekstu, aby nieistotne treści nie zajmowały sesji.
Context hygiene as a product feature. Keep skills user-invocable only. Let Jev classify which ones to load per request — inventory stays outside the window until needed. Same lesson as tool output: what sits in context owns the session. Skills are no exception.
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
