Demo Doom in tempo reale alimentata da Jev
Una demo di gioco mostra decisioni in tempo reale. Diogo dice che effettua circa dieci chiamate Jev al secondo; il post include un video di 2:43.
Giocare con Jev estraendo i logits dal modello on-device di Apple
L'autore osserva che Jev può decidere solo dai logits senza generare, quindi ha hackerato Apple Foundation Models per estrarre i logits e far giocare il modello, elogiando la velocità dell'LLM integrato nel Mac.
Jevって要は、Logitsさえ取れれば生成せずに判断できるんよね。ということでApple Foundation ModelsをハックしてLogitsを取り出し、ゲームをプレイさせてみた。 Macにはじめから入ってるLLMでこれだけのスピードが出るのすごくない？ #AppleIntelligence #Jev
· 2 likesOpen on X
More like this
Jev gioca a Doom in tempo reale come un vero giocatore
Jev gioca a Doom in tempo reale e sembra un vero giocatore. È da 20 a 200 volte più veloce, da 40 a 400 volte più economico e i token di output sono gratuiti. Ciò suggerisce che gli avversari nei giochi potrebbero essere IA in tempo reale o sostituire assistenti umani.
Il nuovo modello Jev di TypeSafe gioca a Super Mario Bros.
Un utente condivide il nuovo modello Jev di TypeSafe che gioca a Super Mario Bros., elogiando l'inferenza rapida e gli output strutturati per casi d'uso in tempo reale.
