Jevとテキスト生成モデルの違い
Jevは自由形式のテキストを生成しません。並列的な意思決定とトークン単位の生成の違いを、Diogoが比較動画で説明します。
Jevとローカル意思決定モデル：レイテンシ優先の考え方
意思決定モデルをローカルで実行することが最善であり、ほとんどのハードウェアに収まるほど小さくできるとし、毎秒の意思決定数を高めるためにレイテンシを最適化すべきだと述べている。
Jev opened the box, but I believe that having your decisioning model run locally is the winning recipe. Decisioning models can certainly be made small enough for most hardware and you really want to maximize for latency with these models, as a higher decisions-per-second may be
· 1 likesOpen on X
More like this
価格、評価、そしてJevという名前の由来
発表スレッドでは、code + AIのワークフロー評価、発表時の入力価格、無料出力トークンについて説明しています。
Jevモデル：意思決定向け確率生成、LLMより200倍高速・400倍安価
このモデルはテキスト生成ではなく意思決定向けに設計され、トークンごとの応答ではなく各選択肢の確率を並列に出力する。通常のLLMとこのJevモデルの簡易比較例を示している。
