Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Eksperymenty z Jev od TypeSafe AI w Playground: ocena semantyczna przez HEX/RGB
Test Jev w Playground: ukrywanie nazw kandydatów Choice jako option_a itd. i podawanie tylko wartości HEX/RGB, by sprawdzić, czy model ocenia je semantycznie jako kolory. Gdy jedną z wartości HEX lub RGB kandydata zmieni się na czerwony, tworząc sprzeczność, jego prawdopodobieństwo spada niemal do 0%; na razie brak wyraźnego uprzedzenia do HEX lub RGB.
TypeSafe AIの #Jev を Playground で実験なう✨ Choice の候補名を option_a 等に隠してHEX/RGB だけ与えても、値を色として意味的に評価する様子。 例えば blue 候補の HEX か RGB の片方だけデータで赤に変えて矛盾させるとその候補確率はほぼ0%。 HEX優先／RGB優先の偏りは今のところなさそう🤔
· 5 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
