Back to explore

เปลี่ยน LLM โอเพนซอร์สเป็นโมเดลตัดสินใจเร็วแบบ Jev

อธิบายวิธีเปลี่ยน LLM โอเพนซอร์สต้นทุนต่ำเป็นโมเดลตัดสินใจเร็วแบบ Jev โดยไม่ต้องฝึก และวิธีที่ LLM ให้คะแนนคำศัพท์เพื่อเลือกคำถัดไป

you can turn any low-cost open-source LLM into a Jev like fast decision model without training it. Here's how to do it: An LLM doesn't write text directly. At every step it scores every word in its vocabulary for how likely that word is to come next, and then it picks one. Those

· 0 likesOpen on X