Back to explore

Spielen mit Jev durch Extrahieren von Logits aus Apples On-Device-Modell

Der Autor stellt fest, dass Jev allein anhand von Logits entscheiden kann, ohne zu generieren, hackte daher Apple Foundation Models, um Logits zu extrahieren, und ließ das Modell ein Spiel spielen – beeindruckt von der Geschwindigkeit des integrierten Mac-LLM.

Jevって要は、Logitsさえ取れれば生成せずに判断できるんよね。ということでApple Foundation ModelsをハックしてLogitsを取り出し、ゲームをプレイさせてみた。 Macにはじめから入ってるLLMでこれだけのスピードが出るのすごくない? #AppleIntelligence #Jev

· 2 likesOpen on X