Jevとテキスト生成モデルの違い
Jevは自由形式のテキストを生成しません。並列的な意思決定とトークン単位の生成の違いを、Diogoが比較動画で説明します。
Jevモデル、並列計算で10億トークンあたり42ドルを実現
投稿は、Jevが非トランスフォーマーの並列計算を採用し、10億トークンあたり42ドルという低コストを実現していると述べ、ChatGPTやAnthropicへの影響、LLMをインターフェース、ハーネスをバックエンドとするアーキテクチャの変化を論じている。
ท่าทางจะเจ๊งกันยกแผงละ chatGPT กับ Anthropic เจอพี่ Jev เข้าไป โดยมันทำการคำนวณแบบ Parallel ไดเราคาถูกมาก $42 ต่อ billion token แบบไม่ใช้วิธี transformer คนทำ chatGPT ที่แยกตัวออกมาซุ่มทำ AI ตัวใหม่ น่าจะกลายเป็น Harness หลังบ้านเอา LLM มาต่ออีกทีแล้วให้ LLM เป็นเพียง interface
· 439 likesOpen on X
More like this
価格、評価、そしてJevという名前の由来
発表スレッドでは、code + AIのワークフロー評価、発表時の入力価格、無料出力トークンについて説明しています。
Jevモデル：意思決定向け確率生成、LLMより200倍高速・400倍安価
このモデルはテキスト生成ではなく意思決定向けに設計され、トークンごとの応答ではなく各選択肢の確率を並列に出力する。通常のLLMとこのJevモデルの簡易比較例を示している。
