Jevとテキスト生成モデルの違い
Jevは自由形式のテキストを生成しません。並列的な意思決定とトークン単位の生成の違いを、Diogoが比較動画で説明します。
LLMとJevの主な違い
動画では、一般的なLLMがテキストやJSONをトークン単位で生成し、各トークンが前のトークンに依存するため複数の逐次段階が必要である一方、Jevは異なる仕組みであると説明している。
The video is about the main difference between LLMs and Jev. Summary of this tweet from our friend: - A typical LLM generates text or JSON token by token. - Each token depends on the previous one; therefore, the model has to go through multiple sequential stages to produce a
· 91 likesOpen on X
More like this
価格、評価、そしてJevという名前の由来
発表スレッドでは、code + AIのワークフロー評価、発表時の入力価格、無料出力トークンについて説明しています。
Jevモデル：意思決定向け確率生成、LLMより200倍高速・400倍安価
このモデルはテキスト生成ではなく意思決定向けに設計され、トークンごとの応答ではなく各選択肢の確率を並列に出力する。通常のLLMとこのJevモデルの簡易比較例を示している。
