Back to explore

Jouer avec Jev en extrayant les logits du modèle embarqué d'Apple

L'auteur note que Jev peut décider à partir des logits sans générer, il a donc piraté Apple Foundation Models pour extraire les logits et faire jouer le modèle à un jeu, saluant la vitesse du LLM intégré au Mac.

Jevって要は、Logitsさえ取れれば生成せずに判断できるんよね。ということでApple Foundation ModelsをハックしてLogitsを取り出し、ゲームをプレイさせてみた。 Macにはじめから入ってるLLMでこれだけのスピードが出るのすごくない? #AppleIntelligence #Jev

· 2 likesOpen on X