Jev versus modelos de geração de texto
Jev não gera texto livre. Um vídeo lado a lado compara decisões paralelas com geração de texto token por token.
Jev da TypeSafe AI: decisões como sim/não, escolhas ou pontuações em vez de texto
Apresenta o modelo Jev da TypeSafe AI: não gera palavras, retornando sim/não, uma escolha ou uma pontuação com probabilidades em 70–500 ms a US$ 0,042 por milhão.
Most LLM calls inside agents are decisions dressed up as text. The industry decided that intelligence has to speak in full sentences. Jev from TypeSafe AI generates zero words. It returns a yes/no, a choice or a score with probabilities in 70 to 500 ms, at $0.042 per million
· 0 likesOpen on X
More like this
Preços, avaliações e o nome Jev
A thread de lançamento explica avaliações de fluxos code + AI, o preço de entrada anunciado e tokens de saída gratuitos.
Modelo Jev: geração de probabilidades para decisões, 200× mais rápido e 400× mais barato que LLMs
Este modelo é feito para tomada de decisão em vez de geração de texto, gerando probabilidades para cada opção em paralelo, em vez de respostas token a token. O autor compartilha um exemplo simplificado de LLMs normais versus este modelo Jev.
