Back to explore

ローカルJevスタイルエンジン:RTX 4060でGemma 12Bを使い類似効果を実現

著者がRTX 4060 8GBで既存のオープンソースGemma 12Bを使ってJevスタイルの意思決定エンジンを実装し、通常のLLMと比較、有料Jev APIを避けられると述べています。

⚔️ Local Jev IQ = the smartest model your laptop can run. Same GGUF. Two swords: a normal LLM and a Jev-style decision engine on a RTX 4060 8 GB VRAM. Everyone’s lining up for the paid Jev API. I used open-source options on a Gemma 12B I already had. ✅ Same server. Two URLs.

ローカルJevスタイルエンジン:RTX 4060でGemma 12Bを使い類似効果を実現 1ローカルJevスタイルエンジン:RTX 4060でGemma 12Bを使い類似効果を実現 2ローカルJevスタイルエンジン:RTX 4060でGemma 12Bを使い類似効果を実現 3
· 1 likesOpen on X