Jev versus modelos de geração de texto
Jev não gera texto livre. Um vídeo lado a lado compara decisões paralelas com geração de texto token por token.
Por que o Jev pode ser mais rápido que LLMs tradicionais
A publicação contrasta o Jev com LLMs tradicionais: os LLMs decodificam de forma autorregressiva token a token, enquanto o Jev pode retornar diretamente um Choice, Score ou NOUL, reduzindo etapas de decodificação e potencialmente a latência de inferência.
Why could Jev be faster than traditional LLMs like ChatGPT? LLMs use autoregressive generation: Token 1 → Token 2 → Token 3 → … Jev can return a direct Choice / Score / NOUL instead. Less decoding → potentially lower AI inference latency. #AI #LLM #Jev #MachineLearning
· 1 likesOpen on X
More like this
Preços, avaliações e o nome Jev
A thread de lançamento explica avaliações de fluxos code + AI, o preço de entrada anunciado e tokens de saída gratuitos.
Modelo Jev: geração de probabilidades para decisões, 200× mais rápido e 400× mais barato que LLMs
Este modelo é feito para tomada de decisão em vez de geração de texto, gerando probabilidades para cada opção em paralelo, em vez de respostas token a token. O autor compartilha um exemplo simplificado de LLMs normais versus este modelo Jev.
