Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Jev ocenia decyzje w jednym przebiegu zamiast generować token po tokenie
Karl Weinmeister zauważa, że generatywna AI zastąpiła klasyfikatory promptem, ale Jev od TypeSafe AI przywraca klasyfikator: zamiast generować tekst token po tokenie, ocenia decyzje w jednym przebiegu, co pasuje do przypadków wymagających jedynie inteligentnego if.
Generative AI replaced classifiers with a prompt. This week, the classifier came back with a vengeance in Jev from @typesafeai. Instead of generating text token by token, it scores decisions in a single pass. Sometimes you just need a smart if statement.
· 4 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
