Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Dyskusja, czy Jev używa mechanizmu podobnego do RAG i jego dokładności
Autor zastanawia się, jaka byłaby dokładność Jev, gdyby używał mechanizmu podobnego do RAG (choć nie dokładnie RAG), i udostępnia link do projektu Jev.
I'm curious about how accurate it would be if Jev uses something like RAG (though apparently it's not exactly RAG). https://jev.kimura512.dev #Jev #TypeSafeAI
· 8 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
