Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Jev zastępuje RAG szybkim drzewem decyzyjnym
Jev identyfikuje trafne dokumenty bezpośrednio z zapytania użytkownika, bez embeddingów i wyszukiwania wektorowego, dostarczając dokładny kontekst do LLM.
JEV just replaced RAG for us! 1. Jev reads the user query and identifies which docs are most relevant. 2. Only that relevant context is served in the LLM query. No embeddings, no vector search! Basically, Jev's quick decision tree replaces the slow, unreliable vector search.
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
