Back to explore

Lokale Jev-achtige engine: iets soortgelijks bereiken op RTX 4060 met Gemma 12B

De auteur deelt hoe hij met een bestaand open-source Gemma 12B-model op een RTX 4060 8GB een Jev-achtige beslissingsengine bouwt, vergelijkt met een normale LLM en aangeeft dat de betaalde Jev-API kan worden vermeden.

⚔️ Local Jev IQ = the smartest model your laptop can run. Same GGUF. Two swords: a normal LLM and a Jev-style decision engine on a RTX 4060 8 GB VRAM. Everyone’s lining up for the paid Jev API. I used open-source options on a Gemma 12B I already had. ✅ Same server. Two URLs.

Lokale Jev-achtige engine: iets soortgelijks bereiken op RTX 4060 met Gemma 12B 1Lokale Jev-achtige engine: iets soortgelijks bereiken op RTX 4060 met Gemma 12B 2Lokale Jev-achtige engine: iets soortgelijks bereiken op RTX 4060 met Gemma 12B 3
· 1 likesOpen on X