Jev ile kod tabanı sınıflandırıcısı oluşturma
Bir geliştirici Jev ile kod tabanı sınıflandırıcısı oluşturduğunu paylaşıyor, ajanların ürettiği aşırı mühendislik kodunu çözebileceğini öne sürüyor ve sırada neyin test edileceğini soruyor.
Hamel Husain, LLM Judge'in özünde bir sınıflandırıcı olduğu için Jev'in LLM değerlendirmeleri için kullanılabileceğini belirtiyor ve sınıflandırıcıları insan etiketleriyle test edip aşırı öğrenmeden kaçınmayı öneriyor.
Can you use Jev for Evals? Yes! Remember that a LLM Judge is also classifier*. Make sure to test your classifiers against human labels and don't overfit. Hope this helps! * https://hamel.dev/blog/posts/evals-faq/why-do-you-recommend-binary-passfail-evaluations-instead-of-1-5-ratings-likert-scales.html…