Back to explore

Локальный движок в стиле Jev: достижение похожего результата на RTX 4060 с Gemma 12B

Автор рассказывает, как использовать открытую модель Gemma 12B на RTX 4060 8 ГБ для создания движка принятия решений в стиле Jev, сравнивает с обычной LLM и отмечает, что платный Jev API не обязателен.

⚔️ Local Jev IQ = the smartest model your laptop can run. Same GGUF. Two swords: a normal LLM and a Jev-style decision engine on a RTX 4060 8 GB VRAM. Everyone’s lining up for the paid Jev API. I used open-source options on a Gemma 12B I already had. ✅ Same server. Two URLs.

Локальный движок в стиле Jev: достижение похожего результата на RTX 4060 с Gemma 12B 1Локальный движок в стиле Jev: достижение похожего результата на RTX 4060 с Gemma 12B 2Локальный движок в стиле Jev: достижение похожего результата на RTX 4060 с Gemma 12B 3
· 1 likesOpen on X