Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Czy model decyzyjny Jev od TypeSafe jest naprawdę bezpieczny?
Autor kwestionuje, czy modele decyzyjne Jev od TypeSafe są bezpieczne bez rozumowania, zauważając, że odpowiadają na jedno typowane pytanie o dokument, zwracają skalibrowane prawdopodobieństwa i są dostarczane jako guardrails, routery i bramy zatwierdzania.
Is @typesafeai’s Jev actually safe? Decision models answer one typed question about a document and return a calibrated probability for every allowed answer. They ship as guardrails, routers and approval gates. My question is, without reasoning, are they actually safe?
· 6 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
