Jev versus modelos de geração de texto
Jev não gera texto livre. Um vídeo lado a lado compara decisões paralelas com geração de texto token por token.
Modelo Jev alcança US$ 42 por bilhão de tokens com computação paralela
A publicação afirma que o Jev usa computação paralela não-transformer a US$ 42 por bilhão de tokens, discute o possível impacto no ChatGPT e na Anthropic, e sugere uma mudança para LLMs como interface com um backend de harness.
ท่าทางจะเจ๊งกันยกแผงละ chatGPT กับ Anthropic เจอพี่ Jev เข้าไป โดยมันทำการคำนวณแบบ Parallel ไดเราคาถูกมาก $42 ต่อ billion token แบบไม่ใช้วิธี transformer คนทำ chatGPT ที่แยกตัวออกมาซุ่มทำ AI ตัวใหม่ น่าจะกลายเป็น Harness หลังบ้านเอา LLM มาต่ออีกทีแล้วให้ LLM เป็นเพียง interface
· 439 likesOpen on X
More like this
Preços, avaliações e o nome Jev
A thread de lançamento explica avaliações de fluxos code + AI, o preço de entrada anunciado e tokens de saída gratuitos.
Modelo Jev: geração de probabilidades para decisões, 200× mais rápido e 400× mais barato que LLMs
Este modelo é feito para tomada de decisão em vez de geração de texto, gerando probabilidades para cada opção em paralelo, em vez de respostas token a token. O autor compartilha um exemplo simplificado de LLMs normais versus este modelo Jev.
