Back to explore

Bermain game dengan Jev dengan mengekstrak logits dari model on-device Apple

Penulis menyebut Jev dapat memutuskan hanya dari logits tanpa menghasilkan, jadi ia meretas Apple Foundation Models untuk mengekstrak logits dan membuatnya bermain game, memuji kecepatan LLM bawaan Mac.

Jevって要は、Logitsさえ取れれば生成せずに判断できるんよね。ということでApple Foundation ModelsをハックしてLogitsを取り出し、ゲームをプレイさせてみた。 Macにはじめから入ってるLLMでこれだけのスピードが出るのすごくない? #AppleIntelligence #Jev

· 2 likesOpen on X