Jev dibanding model pembuat teks
Jev tidak menghasilkan teks bebas. Video perbandingan menunjukkan perbedaan pengambilan keputusan paralel dan pembuatan teks token demi token.
Membuat model open source berperilaku seperti Jev melalui rekayasa inferensi
Penulis mengklaim model open source apa pun dapat dibuat berperilaku seperti Jev dengan sedikit rekayasa inferensi, mendemonstrasikan endpoint baru bernama deepseek-v4.1-flash-jev yang dibangun dengan mesin inferensi sglang.
you can make any open source model behave like jev with just a bit of inference engineering. it's shockingly easy. to prove it, we built a new endpoint we're calling deepseek-v4.1-flash-jev. see the demo below. here's how it's done: sglang (an inference engine) offers a
· 1,3 rb likesOpen on X
More like this
Harga, evaluasi, dan asal nama Jev
Thread peluncuran menjelaskan evaluasi alur kerja code + AI, harga input saat peluncuran, dan token output gratis.
Model Jev: pembuatan probabilitas untuk pengambilan keputusan, 200× lebih cepat dan 400× lebih murah dari LLM
Model ini dibuat untuk pengambilan keputusan, bukan pembuatan teks, menghasilkan probabilitas untuk setiap opsi secara paralel alih-alih respons token demi token. Penulis membagikan contoh sederhana perbandingan LLM biasa dengan model Jev ini.
