Einen Codebase-Klassifikator mit Jev erstellen
Ein Entwickler teilt den Bau eines Codebase-Klassifikators mit Jev, der überentwickelten Code von Agenten lösen könnte, und fragt, was als Nächstes getestet werden soll.
Der Autor führte eine Spielzeug-Pipeline aus, die textbasierte Rubriken in strukturierte Antworten zerlegt, um Jev und Codex Luna als Bewerter bei Code-Taste-Aufgaben im FrontierCode-Stil zu vergleichen.
ran a toy pipeline comparing jev vs codex luna as graders on FrontierCode style "code taste" tasks: decomposed text-based rubrics into structured answers (e.g. are all changes necessary? do all changes consistently use the abstractions required by the task?) -> run both models in