Jev dibanding model pembuat teks
Jev tidak menghasilkan teks bebas. Video perbandingan menunjukkan perbedaan pengambilan keputusan paralel dan pembuatan teks token demi token.
Jev melakukan klasifikasi multitugas dalam satu forward pass dan dapat menggantikan LLM untuk klasifikasi semantik
Post ini menafsirkan keluaran dekoder Jev: alih-alih prediksi token berikutnya secara autoregresif, ia melakukan klasifikasi multitugas dalam satu forward pass, sehingga dapat dipakai untuk klasifikasi semantik dan langsung menggantikan LLM yang ada, memungkinkan perutean informasi berbasis makna.
#Jev、デコーダーからの出力を、自己回帰的な次単語予測するんじゃなくて、単一フォワードパスでマルチタスク分類する、ってことで、「意味による分類」って用途で使われたLLMをそのまま置き換えるができると理解した。意味を通した情報のルーティング、ってことか。
· 1 likesOpen on X
More like this
Harga, evaluasi, dan asal nama Jev
Thread peluncuran menjelaskan evaluasi alur kerja code + AI, harga input saat peluncuran, dan token output gratis.
Model Jev: pembuatan probabilitas untuk pengambilan keputusan, 200× lebih cepat dan 400× lebih murah dari LLM
Model ini dibuat untuk pengambilan keputusan, bukan pembuatan teks, menghasilkan probabilitas untuk setiap opsi secara paralel alih-alih respons token demi token. Penulis membagikan contoh sederhana perbandingan LLM biasa dengan model Jev ini.
