Back to explore

Jugar con Jev extrayendo logits del modelo en dispositivo de Apple

El autor señala que Jev puede decidir solo con logits sin generar, así que hackeó Apple Foundation Models para extraer logits y hacer que jugara un juego, destacando la velocidad del LLM integrado en Mac.

Jevって要は、Logitsさえ取れれば生成せずに判断できるんよね。ということでApple Foundation ModelsをハックしてLogitsを取り出し、ゲームをプレイさせてみた。 Macにはじめから入ってるLLMでこれだけのスピードが出るのすごくない? #AppleIntelligence #Jev

· 2 likesOpen on X