Jevとテキスト生成モデルの違い
Jevは自由形式のテキストを生成しません。並列的な意思決定とトークン単位の生成の違いを、Diogoが比較動画で説明します。
JevはAIの意思決定でLLMを置き換えられるか？
Jev について読んだ著者は、Jev が入力と固定選択肢を受け取り確率を返す点に注目し、すべてのAI決定にLLMが必要か疑問を投げかけています。
Recently I was reading about Jev, and one idea stood out. We use LLMs for generation, but many AI systems just need to make a decision. Give Jev an input + fixed choices, and it returns probabilities. It got me thinking: Do we really need an LLM for every AI decision?
· 0 likesOpen on X
More like this
価格、評価、そしてJevという名前の由来
発表スレッドでは、code + AIのワークフロー評価、発表時の入力価格、無料出力トークンについて説明しています。
Jevモデル：意思決定向け確率生成、LLMより200倍高速・400倍安価
このモデルはテキスト生成ではなく意思決定向けに設計され、トークンごとの応答ではなく各選択肢の確率を並列に出力する。通常のLLMとこのJevモデルの簡易比較例を示している。
