Back to explore

เล่นเกมด้วย Jev โดยดึง logits จากโมเดลบนอุปกรณ์ของ Apple

ผู้เขียนระบุว่า Jev สามารถตัดสินใจจาก logits ได้โดยไม่ต้องสร้าง จึงแฮก Apple Foundation Models เพื่อดึง logits และให้โมเดลเล่นเกม ชื่นชมความเร็วของ LLM ที่มีใน Mac

Jevって要は、Logitsさえ取れれば生成せずに判断できるんよね。ということでApple Foundation ModelsをハックしてLogitsを取り出し、ゲームをプレイさせてみた。 Macにはじめから入ってるLLMでこれだけのスピードが出るのすごくない? #AppleIntelligence #Jev

· 2 likesOpen on X