Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Doświadczenia z API modelu Jev od TypeSafe AI
Autor testuje popularny ostatnio model Jev od TypeSafe AI i uznaje go za łatwy w użyciu; z perspektywy API dostarcza szczegółowy kontekst (stan), a następnie zadaje kilka pytań z odpowiadającymi opcjami.
I took a look at the jev model from typesafeai, which has been super popular these past couple of days, and surprisingly, it's so easy to use (see pic). From the API perspective, it just provides detailed context (state), then gives it a few questions with corresponding options,
· 295 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
