Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Model Jev: typowane decyzje i rozkłady prawdopodobieństwa bez generowania tekstu
Przedstawia kluczowe różnice między modelem Jev a zwykłymi LLM: brak interakcji tekstowej, tylko typowane decyzje i rozkłady prawdopodobieństwa, bez generowania i analizy tekstu oraz uczenie ze wzmocnieniem dla skalibrowanych decyzji, przy około 1/400 szybkości odpowiedzi i kosztu.
打字的模型 Jev姐夫 横空出世跟普通大语言模型不一样，它不用文字交互，只输出类型化的决策和概率分布，没有文本生成，也没有解析，响应速度和价格是普通大模型的1/400，便宜到几乎可以忽略不计。因为普通大模型用的是人类反馈强化学习和 可验证奖励强化学习，姐夫用的是面向校准决策强化学习目标更纯
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
