Wikipediaリンクレース：数千の選択肢から選ぶデモ
モデルが数百から数千のリンクから次の一手を選び、制約付き出力での高速な意思決定をゲーム形式で示します。元投稿には4分04秒の動画があります。
Cross-EncoderとJevの再ランキングベンチマーク比較
再ランキングと分類におけるCross-EncoderとJevのベンチマークについて議論し、Cross-Encoderの方が高速に提供できる可能性を指摘。
if you're benchmarking cross-encoders vs jev for reranking would love to learn what your results are! even more interesting is cross encoders for classification. still need to benchmark how good cross encoders are at this out of the box, but they can be served faster than jev
· 13 likesOpen on X
More like this
JevとTypeSafe AIによるセマンティッククエリのユースケース
Nathan LeClaire氏がJevとTypeSafe AIのセマンティッククエリのユースケースを紹介し、可能性はまだ表面に過ぎないと述べる。
Jevでトランプ対ハリス討論のライブBSメーターを構築
著者はJevを使い、トランプ対ハリス討論の全発言にライブBSメーターを適用。両候補に各5つのはい/いいえ質問を行い、合計1,191回のJev呼び出し、118万トークン、中央値415ms、総コスト0.0497ドル。
