Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Diffusion LLM może lepiej pasować do szybkich modeli decyzyjnych typu Jev
Post zauważa, że Jev nie może generować ciągłych współrzędnych kliknięcia przez wyliczanie, podczas gdy Diffusion LLM oferuje większą ekspresyjność przy podobnej szybkości wnioskowania, i przewiduje Computer o 50 mspt.
woc一语点醒梦中人，Google果真有高人在的，Diffusion LLM才是最适合Jev这种快速决策模型的架构，而且可以在保持推理速度相同的同时有比Jev这种模型更强的表达能力（比如要生成鼠标点击动作，Jev是没办法通过枚举选项生成连续点击坐标的，但是DLLM就可以） 过一段时间说不定就会有50 mspt 的Computer
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
