Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
TypeSafe: Nawet za miliard dolarów nie robiłby pre-treningu—łączy istniejące modele
Diogo Almeida z TypeSafe twierdzi, że nawet mając miliard dolarów, nie trenowałby modelu fundamentalnego od zera; Jev powstaje przez krojenie i łączenie istniejących stosów.
Give TypeSafe’s Diogo Almeida a billion dollars and he still wouldn’t pre-train. His bet: slice, dice, and Frankenstein existing stacks — anything except burning the check on a scratch foundation model. @swyx @labenz Latent Space — Why We Made Jev — Diogo Almeida, TypeSafe
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
