Jevとテキスト生成モデルの違い
Jevは自由形式のテキストを生成しません。並列的な意思決定とトークン単位の生成の違いを、Diogoが比較動画で説明します。
JevがRAGを高速な決定木で置き換え
Jevはユーザークエリから関連ドキュメントを直接特定し、埋め込みやベクトル検索なしでLLMに正確なコンテキストを提供します。
JEV just replaced RAG for us! 1. Jev reads the user query and identifies which docs are most relevant. 2. Only that relevant context is served in the LLM query. No embeddings, no vector search! Basically, Jev's quick decision tree replaces the slow, unreliable vector search.
· 0 likesOpen on X
More like this
価格、評価、そしてJevという名前の由来
発表スレッドでは、code + AIのワークフロー評価、発表時の入力価格、無料出力トークンについて説明しています。
Jevモデル：意思決定向け確率生成、LLMより200倍高速・400倍安価
このモデルはテキスト生成ではなく意思決定向けに設計され、トークンごとの応答ではなく各選択肢の確率を並列に出力する。通常のLLMとこのJevモデルの簡易比較例を示している。
