Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Jev od TypeSafe AI: osąd i prawdopodobieństwo bez generowania
Autor podsumowuje model Jev od TypeSafe AI: zwraca tylko osądy i prawdopodobieństwa zamiast generować tekst odpowiedzi, i dzieli się scenariuszami użycia.
自分も悩んでた「LLMに判断させるか、生成させるか」問題、ようやく整理できた気がする。 TypeSafe AIが出した「Jev」、回答文を一切生成せず判断と確率だけ返す設計が面白い。要点と、自分なら使う場面をまとめておく。 🧵 #AI実装ノウハウ
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
