Back to explore

コードの「品味」タスクにおけるJevとCodex Lunaのグレーダー比較

著者はテキストベースのルーブリックを構造化回答に分解するトイパイプラインを実行し、FrontierCode風のコード品味タスクでJevとCodex Lunaのグレーダー性能を比較した。

ran a toy pipeline comparing jev vs codex luna as graders on FrontierCode style "code taste" tasks: decomposed text-based rubrics into structured answers (e.g. are all changes necessary? do all changes consistently use the abstractions required by the task?) -> run both models in

· 0 likesOpen on X