Back to explore

Chơi game với Jev bằng cách trích xuất logits từ mô hình trên thiết bị của Apple

Tác giả cho biết Jev có thể quyết định chỉ từ logits mà không cần sinh, nên đã hack Apple Foundation Models để trích xuất logits và cho mô hình chơi game, khen tốc độ của LLM tích hợp trên Mac.

Jevって要は、Logitsさえ取れれば生成せずに判断できるんよね。ということでApple Foundation ModelsをハックしてLogitsを取り出し、ゲームをプレイさせてみた。 Macにはじめから入ってるLLMでこれだけのスピードが出るのすごくない? #AppleIntelligence #Jev

· 2 likesOpen on X