Jevとテキスト生成モデルの違い
Jevは自由形式のテキストを生成しません。並列的な意思決定とトークン単位の生成の違いを、Diogoが比較動画で説明します。
Jevのトークン単位生成がコストと速度を変える仕組みを解説する動画
Nilay Coskun氏が動画を共有。トークン単位生成でトークンが安く応答が速くなり、適切なタスクに適切なモデルを使う重要性を再確認。
Another great video explaining Jev! "when you drop token by token generation the economics totally change. Token become cheaper and responses came back faster" "so Jev has reminded us once again to use the right model for the right. While bigger reasoning models are great for
· 4 likesOpen on X
More like this
価格、評価、そしてJevという名前の由来
発表スレッドでは、code + AIのワークフロー評価、発表時の入力価格、無料出力トークンについて説明しています。
Jevモデル：意思決定向け確率生成、LLMより200倍高速・400倍安価
このモデルはテキスト生成ではなく意思決定向けに設計され、トークンごとの応答ではなく各選択肢の確率を並列に出力する。通常のLLMとこのJevモデルの簡易比較例を示している。
