Back to explore

Motore locale in stile Jev: ottenere risultati simili su RTX 4060 con Gemma 12B

L'autore condivide l'uso di un modello open source Gemma 12B su una RTX 4060 8GB per creare un motore decisionale in stile Jev, confrontandolo con un normale LLM e notando che l'API Jev a pagamento può essere evitata.

⚔️ Local Jev IQ = the smartest model your laptop can run. Same GGUF. Two swords: a normal LLM and a Jev-style decision engine on a RTX 4060 8 GB VRAM. Everyone’s lining up for the paid Jev API. I used open-source options on a Gemma 12B I already had. ✅ Same server. Two URLs.

Motore locale in stile Jev: ottenere risultati simili su RTX 4060 con Gemma 12B 1Motore locale in stile Jev: ottenere risultati simili su RTX 4060 con Gemma 12B 2Motore locale in stile Jev: ottenere risultati simili su RTX 4060 con Gemma 12B 3
· 1 likesOpen on X