Back to explore

Jevモデルの1万8千件判断を測定し確率校正を検証

著者は1週間かけてJevを測定。完全なHTTP仕様で1万8千件の判断を8セントで実行し、確率の意味を検証するため59文を手作業でラベル付け。各バケットは予測を下回った。

Everyone posted a Jev demo last week. I spent the week measuring it instead. 18,000 judgments across a full HTTP spec. 8 cents. Then I hand labelled 59 sentences to check whether the probabilities mean anything. Every bucket came in below its prediction. 🧵

Jevモデルの1万8千件判断を測定し確率校正を検証 1
· 0 likesOpen on X