Back to explore

Community-Test: Jev überzeugt bei medizinischen QA-Fragen

Ein Nutzer testete Jev auf dem medizinischen QA-Benchmark igakuQA: 2.000 Fragen in etwa 80 Sekunden für 0,04 $ gelöst; die reine Textgenauigkeit lag bei 88,6 % und damit auf GPT-4o-Niveau; Confidence-Schwellenwerte verbesserten die Genauigkeit weiter.

話題のjevにigakuQAをとかせてみた。 2000問を80秒ぐらいで解いて0.04ドル。 テキストに限った正解率は88.6%でGPT-4oぐらい。 confidenceが正確と聞いたので、出力させると確かにカットオフによって正解率が上がって面白かった。 医学ドメインでも強そうですね。

Community-Test: Jev überzeugt bei medizinischen QA-Fragen 1
· 1 likesOpen on X