Back to explore

Игра с Jev через извлечение логитов из локальной модели Apple

Автор отмечает, что Jev может принимать решения только по логитам без генерации, поэтому взломал Apple Foundation Models, извлёк логиты и заставил модель играть в игру, отметив скорость встроенной в Mac LLM.

Jevって要は、Logitsさえ取れれば生成せずに判断できるんよね。ということでApple Foundation ModelsをハックしてLogitsを取り出し、ゲームをプレイさせてみた。 Macにはじめから入ってるLLMでこれだけのスピードが出るのすごくない? #AppleIntelligence #Jev

· 2 likesOpen on X