Jevとテキスト生成モデルの違い
Jevは自由形式のテキストを生成しません。並列的な意思決定とトークン単位の生成の違いを、Diogoが比較動画で説明します。
Jevへのアクセスを得たらやるべき4つのこと：まずJevに小さな選択をさせる
Jevをモデルの置き換えではなく、既存モデルの前段に置くことを推奨。Jevが小さな選択を先に行い、高価なモデルは本当に必要な時だけ実行される。あるメールツールは1通あたり2回のAI呼び出しを1回のJev呼び出しに置き換え、通常機能を維持したという例を挙げている。
4 things to do when you get access to Jev: 1. don't replace your model, put Jev in front of it Jev makes the small choice first, and your expensive model only runs when it's really needed one email tool swapped 2 AI calls per email for 1 Jev call, and kept all their normal
· 467 likesOpen on X
More like this
価格、評価、そしてJevという名前の由来
発表スレッドでは、code + AIのワークフロー評価、発表時の入力価格、無料出力トークンについて説明しています。
Jevモデル：意思決定向け確率生成、LLMより200倍高速・400倍安価
このモデルはテキスト生成ではなく意思決定向けに設計され、トークンごとの応答ではなく各選択肢の確率を並列に出力する。通常のLLMとこのJevモデルの簡易比較例を示している。
