Jev versus modelos de geração de texto
Jev não gera texto livre. Um vídeo lado a lado compara decisões paralelas com geração de texto token por token.
O padrão que funciona com Jev: classificar primeiro, gerar depois
Um usuário compartilha uma prática com Jev: classificar primeiro, gerar depois, aplicando a mesma ideia à triagem de threads do Reddit e reduzindo o custo do pipeline em ~30x, e observa que o roteador já incorpora isso.
this is the pattern that actually works with jev: classify first, generate second. we do the same thing one layer up for reddit threads (cited by ai / not cited / worth replying), and it cut our pipeline cost ~30x. nice to see it built into the router
· 1 likesOpen on X
More like this
Preços, avaliações e o nome Jev
A thread de lançamento explica avaliações de fluxos code + AI, o preço de entrada anunciado e tokens de saída gratuitos.
Modelo Jev: geração de probabilidades para decisões, 200× mais rápido e 400× mais barato que LLMs
Este modelo é feito para tomada de decisão em vez de geração de texto, gerando probabilidades para cada opção em paralelo, em vez de respostas token a token. O autor compartilha um exemplo simplificado de LLMs normais versus este modelo Jev.
