Jev ile kod tabanı sınıflandırıcısı oluşturma
Bir geliştirici Jev ile kod tabanı sınıflandırıcısı oluşturduğunu paylaşıyor, ajanların ürettiği aşırı mühendislik kodunu çözebileceğini öne sürüyor ve sırada neyin test edileceğini soruyor.
Geliştirici, çoklu model çıkarım yönlendirmesi için Jev sınıflandırıcısını övdü
Geliştirici Chris Dukes, TypeSafe'in Jev sınıflandırıcısının iyi çalıştığını ve çıkarım sırasında aynı anda sunulan birden fazla modele yönlendirme için uygun olduğunu, ancak 8GB VRAM ile sınırlı olduğunu belirtti.
Major shoutout to @typesafeai ; #Jev the #classifier works a treat, and is going to be great to route to multiple models served at once when it comes inference time... ...or at least, that would be my PROPER use-case if I wasn't kneecapped at 8GB VRAM 🥲🥲 many thanks for the
· 0 likesOpen on X
More like this
Jev, LLM-as-a-Judge'ı 20–200x hız ve 40–400x daha düşük maliyetle mümkün kılıyor
Jev, hangi modelin AGI olduğunu seçmek için kullanıldı; 20–200x hız ve 40–400x daha düşük maliyet sunarak LLM-as-a-judge'ı son derece hızlı ve neredeyse ücretsiz hale getiriyor.
TypeSafe Jev ve OpenCode ile uygulama testi
Filip, TypeSafe Jev ve OpenCode ile uygulama testinin ne kadar hızlı olduğunu gösteren küçük bir demo paylaştı.
