Back to explore

Động cơ kiểu Jev cục bộ: đạt được kết quả tương tự trên RTX 4060 với Gemma 12B

Tác giả chia sẻ việc sử dụng mô hình mã nguồn mở Gemma 12B trên RTX 4060 8GB để xây dựng động cơ quyết định kiểu Jev, so sánh với LLM thông thường và lưu ý có thể tránh được Jev API trả phí.

⚔️ Local Jev IQ = the smartest model your laptop can run. Same GGUF. Two swords: a normal LLM and a Jev-style decision engine on a RTX 4060 8 GB VRAM. Everyone’s lining up for the paid Jev API. I used open-source options on a Gemma 12B I already had. ✅ Same server. Two URLs.

Động cơ kiểu Jev cục bộ: đạt được kết quả tương tự trên RTX 4060 với Gemma 12B 1Động cơ kiểu Jev cục bộ: đạt được kết quả tương tự trên RTX 4060 với Gemma 12B 2Động cơ kiểu Jev cục bộ: đạt được kết quả tương tự trên RTX 4060 với Gemma 12B 3
· 1 likesOpen on X