Back to explore

Moteur local de style Jev : obtenir un résultat similaire sur RTX 4060 avec Gemma 12B

L'auteur partage l'utilisation d'un modèle open source Gemma 12B sur une RTX 4060 8 Go pour créer un moteur de décision style Jev, le comparant à un LLM normal et notant que l'API Jev payante peut être évitée.

⚔️ Local Jev IQ = the smartest model your laptop can run. Same GGUF. Two swords: a normal LLM and a Jev-style decision engine on a RTX 4060 8 GB VRAM. Everyone’s lining up for the paid Jev API. I used open-source options on a Gemma 12B I already had. ✅ Same server. Two URLs.

Moteur local de style Jev : obtenir un résultat similaire sur RTX 4060 avec Gemma 12B 1Moteur local de style Jev : obtenir un résultat similaire sur RTX 4060 avec Gemma 12B 2Moteur local de style Jev : obtenir un résultat similaire sur RTX 4060 avec Gemma 12B 3
· 1 likesOpen on X