Jev versus modelos de geração de texto
Jev não gera texto livre. Um vídeo lado a lado compara decisões paralelas com geração de texto token por token.
Modelo Jev: agentes de IA não precisam de um LLM para cada decisão
O autor compartilha aprendizados sobre o Jev da TypeSafe AI: decisões como rotear solicitações, chamar ferramentas ou avaliar riscos nem sempre precisam de um LLM.
AI agents don't always need an LLM to make every decision That was my biggest takeaway after learning about Jev from TypeSafe AI We often use LLMs for tasks like: → Which team should this request go to? → Should this tool be called? → Is this action risky? → Which model
· 0 likesOpen on X
More like this
Preços, avaliações e o nome Jev
A thread de lançamento explica avaliações de fluxos code + AI, o preço de entrada anunciado e tokens de saída gratuitos.
Modelo Jev: geração de probabilidades para decisões, 200× mais rápido e 400× mais barato que LLMs
Este modelo é feito para tomada de decisão em vez de geração de texto, gerando probabilidades para cada opção em paralelo, em vez de respostas token a token. O autor compartilha um exemplo simplificado de LLMs normais versus este modelo Jev.
