Realtime Doom demo driven av Jev
En speldemo visar beslut i realtid. Diogo säger att den gör cirka tio Jev anrop per sekund; inlägget innehåller en video på 2:43.
Spela spel med Jev genom att extrahera logits från Apples enhetsmodell
Författaren noterar att Jev kan avgöra enbart från logits utan att generera, hackade därför Apple Foundation Models för att extrahera logits och lät modellen spela ett spel, och berömmer hastigheten hos den inbyggda LLM:en i Mac.
Jevって要は、Logitsさえ取れれば生成せずに判断できるんよね。ということでApple Foundation ModelsをハックしてLogitsを取り出し、ゲームをプレイさせてみた。 Macにはじめから入ってるLLMでこれだけのスピードが出るのすごくない？ #AppleIntelligence #Jev
· 2 likesOpen on X
More like this
Jev spelar Doom i realtid som en riktig spelare
Jev spelar Doom i realtid och ser ut som en riktig spelare. Det är 20 till 200 gånger snabbare, 40 till 400 gånger billigare och utdatatokens är gratis. Detta tyder på att motståndare i spel kan vara realtids-AI eller ersätta mänskliga assistenter.
TypeSafes nya modell Jev spelar Super Mario Bros.
En användare delar TypeSafes nya modell Jev som spelar Super Mario Bros. och berömmer snabb inferens och strukturerade utdata för realtidsanvändning.
