Einen Codebase-Klassifikator mit Jev erstellen
Ein Entwickler teilt den Bau eines Codebase-Klassifikators mit Jev, der überentwickelten Code von Agenten lösen könnte, und fragt, was als Nächstes getestet werden soll.
Der Autor hat 8 lokale Modelle auf einem Mac mit denselben JevBench-Fragen ausgeführt. Ein 4B-Modell erreichte bei kurzen Texten Jev-Niveau, bei komplexen lagen jedoch alle 17+ Punkte zurück.
New article: how accurate are local models vs Jev, a cloud System One classifier? I ran 8 on a Mac, same JevBench questions. A 4B model matched Jev on short texts. On complex ones, all were 17+ points behind. https://rockyshikoku.medium.com/jev-style-text-classification-system-one-run-locally-how-accurate-can-it-get-57f30ed3594a… Video: minicpm5-2b classifying messages.