Back to explore

Teste da comunidade: Jev apresenta bom desempenho em QA médico

Um usuário testou o Jev no benchmark de QA médico igakuQA: 2.000 perguntas resolvidas em cerca de 80 segundos por US$ 0,04; a precisão somente de texto foi de 88,6%, comparável ao GPT-4o; o uso de limites de confidence aumentou ainda mais a precisão.

話題のjevにigakuQAをとかせてみた。 2000問を80秒ぐらいで解いて0.04ドル。 テキストに限った正解率は88.6%でGPT-4oぐらい。 confidenceが正確と聞いたので、出力させると確かにカットオフによって正解率が上がって面白かった。 医学ドメインでも強そうですね。

Teste da comunidade: Jev apresenta bom desempenho em QA médico 1
· 1 likesOpen on X