Jev versus modelos de geração de texto
Jev não gera texto livre. Um vídeo lado a lado compara decisões paralelas com geração de texto token por token.
API compatível com OpenAI do Jev e mecanismo de rede neural sem pesos
Apresenta a API de chat compatível com OpenAI do Jev, um mecanismo de rede neural sem pesos usando tabelas de consulta ou memória inteira, e inferência de 5,1 µs.
What the heck is this? Keep up with Jev or something ・OpenAI-compatible chat API ・Weightless Neural Network type mechanism that uses lookup tables or integer memory on RAM, instead of a massive number of floating-point parameters in a neural network ・5.1 µs inference?
· 11 likesOpen on X
More like this
Preços, avaliações e o nome Jev
A thread de lançamento explica avaliações de fluxos code + AI, o preço de entrada anunciado e tokens de saída gratuitos.
Modelo Jev: geração de probabilidades para decisões, 200× mais rápido e 400× mais barato que LLMs
Este modelo é feito para tomada de decisão em vez de geração de texto, gerando probabilidades para cada opção em paralelo, em vez de respostas token a token. O autor compartilha um exemplo simplificado de LLMs normais versus este modelo Jev.
