Jev versus modelos de geração de texto
Jev não gera texto livre. Um vídeo lado a lado compara decisões paralelas com geração de texto token por token.
A compactação do Jev tem problemas significativos
O autor aponta muitos problemas com a compactação do Jev e observa que, em uma avaliação pública de compactação, ela produziu uma regra programática que não requer Jev ou outro modelo.
Okay, everyone wants us to give the unbiased facts. Jev compaction here has a lot of problems. The biggest problems: - When I ran it on our public compaction eval (that you can run too), it resulted in a programmatic rule, that you dont need any Jev or other model for - it
· 1,2 mil likesOpen on X
More like this
Preços, avaliações e o nome Jev
A thread de lançamento explica avaliações de fluxos code + AI, o preço de entrada anunciado e tokens de saída gratuitos.
Modelo Jev: geração de probabilidades para decisões, 200× mais rápido e 400× mais barato que LLMs
Este modelo é feito para tomada de decisão em vez de geração de texto, gerando probabilidades para cada opção em paralelo, em vez de respostas token a token. O autor compartilha um exemplo simplificado de LLMs normais versus este modelo Jev.
