Jev versus modelos de geração de texto
Jev não gera texto livre. Um vídeo lado a lado compara decisões paralelas com geração de texto token por token.
Padrão de design em cascata para modelos tipo Jev
Apresenta um padrão em cascata subutilizado em que um modelo pequeno responde tudo e um grande só os casos incertos, com dados iniciais.
Very underutilized design pattern no one is talking about (yet) for Jev-like models: cascade. A small model answers everything. A big model answers only what the small one is unsure about. In my runs the big one handled 13% of questions and the pair matched it alone — 90 vs
· 1 likesOpen on X
More like this
Preços, avaliações e o nome Jev
A thread de lançamento explica avaliações de fluxos code + AI, o preço de entrada anunciado e tokens de saída gratuitos.
Modelo Jev: geração de probabilidades para decisões, 200× mais rápido e 400× mais barato que LLMs
Este modelo é feito para tomada de decisão em vez de geração de texto, gerando probabilidades para cada opção em paralelo, em vez de respostas token a token. O autor compartilha um exemplo simplificado de LLMs normais versus este modelo Jev.
