Jev versus modelos de geração de texto
Jev não gera texto livre. Um vídeo lado a lado compara decisões paralelas com geração de texto token por token.
Jev e os modelos System 1: um novo caminho além da geração
Neste tópico, o autor sugere que o problema pode não estar na geração de texto em si, e destaca Jev da TypeSafe AI como um exemplo de modelo System 1 projetado para uma tarefa diferente.
1/ 🧵 We’ve spent years making LLMs better at generating text. But what if the problem was never generation in the first place? This is where System 1 models, like Jev from TypeSafe AI, get interesting. They’re designed for a different job.
· 0 likesOpen on X
More like this
Preços, avaliações e o nome Jev
A thread de lançamento explica avaliações de fluxos code + AI, o preço de entrada anunciado e tokens de saída gratuitos.
Modelo Jev: geração de probabilidades para decisões, 200× mais rápido e 400× mais barato que LLMs
Este modelo é feito para tomada de decisão em vez de geração de texto, gerando probabilidades para cada opção em paralelo, em vez de respostas token a token. O autor compartilha um exemplo simplificado de LLMs normais versus este modelo Jev.
