Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Jev i modele System 1: nowy kierunek poza generowaniem tekstu
W tym wątku autor sugeruje, że problem może nie leżeć w generowaniu tekstu jako takim, i przywołuje Jev od TypeSafe AI jako przykład modelu System 1 zaprojektowanego do innego zadania.
1/ 🧵 We’ve spent years making LLMs better at generating text. But what if the problem was never generation in the first place? This is where System 1 models, like Jev from TypeSafe AI, get interesting. They’re designed for a different job.
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
