Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Jev: punkt niskolatencyjnego wyjścia jednorazowego tokena na krzywej optymalnej Pareto LLM
AJ opisuje Jev jako punkt na krzywej optymalnej Pareto LLM, odpowiadający na ukryty popyt na brak myślenia, wyjście jednorazowego tokena, niską latencję i wystarczająco dobrą inteligencję; Diogo Almeida odpowiada.
AJ称 Jev 是LLM Pareto optimal curve 上的一个点 Jev 让过去存在一个很大的“潜在需求”显现出来： - 不需要 thinking - 单 token 输出 - 低延迟 - 只要足够好的 intelligence 这个方向长期被低估了，因为整个行业都在追求“更高 intelligence” Diogo Almeida 回复说，Jev是在 intelligence
· 1 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
