Jevとテキスト生成モデルの違い
Jevは自由形式のテキストを生成しません。並列的な意思決定とトークン単位の生成の違いを、Diogoが比較動画で説明します。
Jevはトークン単位の生成ではなく単一パスで意思決定をスコアリング
Karl Weinmeister氏は、生成AIがプロンプトで分類器を置き換えたと指摘しつつ、TypeSafe AIのJevが分類器を復活させると述べる。トークン単位でテキストを生成するのではなく、単一のパスで意思決定をスコアリングし、スマートなif文が必要な場面に適する。
Generative AI replaced classifiers with a prompt. This week, the classifier came back with a vengeance in Jev from @typesafeai. Instead of generating text token by token, it scores decisions in a single pass. Sometimes you just need a smart if statement.
· 4 likesOpen on X
More like this
価格、評価、そしてJevという名前の由来
発表スレッドでは、code + AIのワークフロー評価、発表時の入力価格、無料出力トークンについて説明しています。
Jevモデル：意思決定向け確率生成、LLMより200倍高速・400倍安価
このモデルはテキスト生成ではなく意思決定向けに設計され、トークンごとの応答ではなく各選択肢の確率を並列に出力する。通常のLLMとこのJevモデルの簡易比較例を示している。
