Back to explore

Test społecznościowy: Jev radzi sobie dobrze w medycznym QA

Użytkownik przetestował Jev na medycznym benchmarku QA igakuQA: 2000 pytań rozwiązanych w około 80 sekund za 0,04 USD; dokładność wyłącznie tekstowa wyniosła 88,6%, porównywalna z GPT-4o; zastosowanie progów confidence dodatkowo poprawiło dokładność.

話題のjevにigakuQAをとかせてみた。 2000問を80秒ぐらいで解いて0.04ドル。 テキストに限った正解率は88.6%でGPT-4oぐらい。 confidenceが正確と聞いたので、出力させると確かにカットオフによって正解率が上がって面白かった。 医学ドメインでも強そうですね。

Test społecznościowy: Jev radzi sobie dobrze w medycznym QA 1
· 1 likesOpen on X