Jev dibanding model pembuat teks
Jev tidak menghasilkan teks bebas. Video perbandingan menunjukkan perbedaan pengambilan keputusan paralel dan pembuatan teks token demi token.
Jev open source: menjawab pertanyaan bertipe dalam satu forward pass
Penulis menempatkan model kedua di samping LLM pada Spark. Model ini tidak menulis teks, melainkan menerima state dan pertanyaan bertipe, lalu menjawab setiap pertanyaan dalam satu forward pass dengan probabilitas. Ini adalah versi open source Jev, dapat dipasang di macOS dan perangkat Nvidia.
I put a second model next to the LLM on my Spark. It does not write text. You send it a state and typed questions, and it answers every one of them in a single forward pass, each with a probability. Yes it is Jev the open source version. It can be installed on macOS, any Nvidia
· 35 likesOpen on X
More like this
Harga, evaluasi, dan asal nama Jev
Thread peluncuran menjelaskan evaluasi alur kerja code + AI, harga input saat peluncuran, dan token output gratis.
Model Jev: pembuatan probabilitas untuk pengambilan keputusan, 200× lebih cepat dan 400× lebih murah dari LLM
Model ini dibuat untuk pengambilan keputusan, bukan pembuatan teks, menghasilkan probabilitas untuk setiap opsi secara paralel alih-alih respons token demi token. Penulis membagikan contoh sederhana perbandingan LLM biasa dengan model Jev ini.
