Jev versus modelos de geração de texto
Jev não gera texto livre. Um vídeo lado a lado compara decisões paralelas com geração de texto token por token.
Jev não é um LLM melhor, é uma categoria diferente de sistema
O post observa que a maioria das equipes de IA executa 80% da inferência com um modelo 100x mais caro que o necessário, e apresenta o Jev da TypeSafe AI como uma categoria diferente de sistema.
Most AI teams are running 80% of their inference workload through a model that costs 100x more than it needs to. Not because they want to. Because there was no alternative. The alternative is here. Jev by @typesafeai is not a better LLM. It is a different category. A System
· 1 likesOpen on X
More like this
Preços, avaliações e o nome Jev
A thread de lançamento explica avaliações de fluxos code + AI, o preço de entrada anunciado e tokens de saída gratuitos.
Modelo Jev: geração de probabilidades para decisões, 200× mais rápido e 400× mais barato que LLMs
Este modelo é feito para tomada de decisão em vez de geração de texto, gerando probabilidades para cada opção em paralelo, em vez de respostas token a token. O autor compartilha um exemplo simplificado de LLMs normais versus este modelo Jev.
