Realtime Doom demo aangedreven door Jev
Een gamedemo toont realtime beslissingen. Diogo zegt dat de demo ongeveer tien Jev calls per seconde doet; de post bevat een video van 2:43.
Gamen met Jev door logits uit Apples on-device model te halen
De auteur merkt op dat Jev alleen op basis van logits kan beslissen zonder te genereren, hackte daarom Apple Foundation Models om logits te extraheren en liet het model een spel spelen, lovend over de snelheid van de ingebouwde Mac-LLM.
Jevって要は、Logitsさえ取れれば生成せずに判断できるんよね。ということでApple Foundation ModelsをハックしてLogitsを取り出し、ゲームをプレイさせてみた。 Macにはじめから入ってるLLMでこれだけのスピードが出るのすごくない？ #AppleIntelligence #Jev
· 2 likesOpen on X
More like this
Jev speelt Doom in realtime als een echte speler
Jev speelt Doom in realtime en ziet eruit als een echte speler. Het is 20 tot 200 keer sneller, 40 tot 400 keer goedkoper en uitvoertokens zijn gratis. Dit suggereert dat tegenstanders in games realtime AI kunnen zijn of menselijke assistenten kunnen vervangen.
TypeSafe's nieuwe model Jev speelt Super Mario Bros.
Een gebruiker deelt TypeSafe's nieuwe model Jev dat Super Mario Bros. speelt en prijst snelle inferentie en gestructureerde outputs voor realtime use cases.
