Membangun pengklasifikasi basis kode dengan Jev
Seorang pengembang membagikan pembuatan pengklasifikasi basis kode dengan Jev, menyarankan ini dapat mengatasi kode berlebihan dari agen, dan bertanya apa yang harus diuji selanjutnya.
Developer memuji classifier Jev untuk routing inferensi multi-model
Developer Chris Dukes mengatakan classifier Jev dari TypeSafe bekerja dengan baik dan cocok untuk routing ke beberapa model yang dilayani sekaligus saat inferensi, meski terbatas pada VRAM 8GB.
Major shoutout to @typesafeai ; #Jev the #classifier works a treat, and is going to be great to route to multiple models served at once when it comes inference time... ...or at least, that would be my PROPER use-case if I wasn't kneecapped at 8GB VRAM 🥲🥲 many thanks for the
· 0 likesOpen on X
More like this
Jev memungkinkan LLM-as-a-Judge 20–200x lebih cepat dan 40–400x lebih murah
Jev digunakan untuk memilih model mana yang AGI, menawarkan kecepatan 20–200x dan biaya 40–400x lebih murah, membuat LLM-as-a-judge sangat cepat dan hampir gratis.
Menguji aplikasi dengan TypeSafe Jev & OpenCode
Filip membagikan demo kecil yang menunjukkan cepatnya menguji aplikasi dengan TypeSafe Jev dan OpenCode.
