Demo de Doom em tempo real com Jev
Uma demo de jogo mostra decisões em tempo real. Diogo diz que faz cerca de dez chamadas Jev por segundo; o post inclui um vídeo de 2:43.
Jogar com Jev extraindo logits do modelo no dispositivo da Apple
O autor observa que o Jev pode decidir apenas com logits, sem gerar, então hackeou o Apple Foundation Models para extrair logits e fazer o modelo jogar um jogo, elogiando a velocidade do LLM embutido no Mac.
Jevって要は、Logitsさえ取れれば生成せずに判断できるんよね。ということでApple Foundation ModelsをハックしてLogitsを取り出し、ゲームをプレイさせてみた。 Macにはじめから入ってるLLMでこれだけのスピードが出るのすごくない？ #AppleIntelligence #Jev
· 2 likesOpen on X
More like this
Jev joga Doom em tempo real como um jogador real
Jev joga Doom em tempo real e parece um jogador real. É de 20 a 200 vezes mais rápido, de 40 a 400 vezes mais barato e os tokens de saída são gratuitos. Isso sugere que os oponentes em jogos podem ser IA em tempo real ou substituir assistentes humanos.
O novo modelo Jev da TypeSafe joga Super Mario Bros.
Um usuário compartilha o novo modelo Jev da TypeSafe jogando Super Mario Bros., elogiando sua inferência rápida e saídas estruturadas para casos de uso em tempo real.
