Jev tegenover tekstgenererende modellen
Jev genereert geen vrije tekst. Een video vergelijkt parallel beslissen met token voor token tekstgeneratie.
Jev versus LLM: verschil in inferentie
Een demo vergelijkt Jev met traditionele LLM's: LLM's genereren token voor token, terwijl Jev geen strings genereert maar alle beoordelingskansen parallel uitvoert.
LLM 是把答案“写出来”，Jev 是把判断概率直接“算出来”。 这个 Demo 很直观地展示了 Jev 和传统 LLM 的区别：LLM 是一个 Token 一个 Token 地生成答案，而 Jev 不生成字符串，而是直接把所有判断的概率一次性并行输出。 TypeSafe 认为，字符串虽然非常通用，但代价也很高。Jev
· 0 likesOpen on X
More like this
Prijs, evaluaties en de naam Jev
De launchthread legt code plus AI workflow evaluaties uit, de aangekondigde invoerprijs en gratis outputtokens.
Jev-model: waarschijnlijkheidsgeneratie voor besluitvorming, 200× sneller en 400× goedkoper dan LLM's
Dit model is gemaakt voor besluitvorming in plaats van tekstgeneratie en genereert waarschijnlijkheden voor elke optie parallel in plaats van token voor token antwoorden. De auteur deelt een vereenvoudigd voorbeeld van normale LLM's versus dit Jev-model.
