Jev ile kod tabanı sınıflandırıcısı oluşturma
Bir geliştirici Jev ile kod tabanı sınıflandırıcısı oluşturduğunu paylaşıyor, ajanların ürettiği aşırı mühendislik kodunu çözebileceğini öne sürüyor ve sırada neyin test edileceğini soruyor.
Braintrust, Jev'i yargıç modeli olarak test etti: groundedness değerlendirmesinde hızlı, ucuz ve rekabetçi, ancak matematik ve kod alanlarında akıl yürütme modellerinin gerisinde. Belirli değerlendirme görevleri için uygun, LLM-as-a-judge'ın tam yerine geçmez.
We tested where Jev holds up as a judge. Jev was fast, cheap, and highly competitive for judging groundedness. But it lagged behind models with reasoning for math and code domains. Use it for certain eval tasks, but don't throw out your LLM-as-a-judge just yet. Read more →