Jevとテキスト生成モデルの違い
Jevは自由形式のテキストを生成しません。並列的な意思決定とトークン単位の生成の違いを、Diogoが比較動画で説明します。
Jev と LLM の推論方式の違い
デモで Jev と従来の LLM を比較。LLM はトークンを逐次生成するのに対し、Jev は文字列を生成せず、判断の確率を並列に一度で出力する。
LLM 是把答案“写出来”，Jev 是把判断概率直接“算出来”。 这个 Demo 很直观地展示了 Jev 和传统 LLM 的区别：LLM 是一个 Token 一个 Token 地生成答案，而 Jev 不生成字符串，而是直接把所有判断的概率一次性并行输出。 TypeSafe 认为，字符串虽然非常通用，但代价也很高。Jev
· 0 likesOpen on X
More like this
価格、評価、そしてJevという名前の由来
発表スレッドでは、code + AIのワークフロー評価、発表時の入力価格、無料出力トークンについて説明しています。
Jevモデル：意思決定向け確率生成、LLMより200倍高速・400倍安価
このモデルはテキスト生成ではなく意思決定向けに設計され、トークンごとの応答ではなく各選択肢の確率を並列に出力する。通常のLLMとこのJevモデルの簡易比較例を示している。
