Back to explore

Prueba comunitaria: Jev rinde bien en QA médica

Un usuario probó Jev en el benchmark de QA médica igakuQA: 2000 preguntas resueltas en unos 80 segundos por 0,04 USD; la precisión solo en texto fue del 88,6%, comparable a GPT-4o; usar cortes de confidence mejoró aún más la precisión.

話題のjevにigakuQAをとかせてみた。 2000問を80秒ぐらいで解いて0.04ドル。 テキストに限った正解率は88.6%でGPT-4oぐらい。 confidenceが正確と聞いたので、出力させると確かにカットオフによって正解率が上がって面白かった。 医学ドメインでも強そうですね。

Prueba comunitaria: Jev rinde bien en QA médica 1
· 1 likesOpen on X